影片1号
影片名:《AI》
导演:史蒂夫·斯皮尔伯格(继承好友斯坦利·库布里克的遗愿)
原著:《Super-Toys Last All Summer Long》
(↑图片来自维基百科,你可以在自动化所找到这个标志)
个人影评:【剧透预警!】
.
.
.
.
.
.
.
.
.
.
.
.
.
提到AI机器人,绝大多数电影都绕不过探讨一个重大的伦理问题,那就是人工智慧(以下统一用机器人称呼)和人类之间是否可以实现共存。这部影片同样不例外,在影片的开头,当科技公司的老总哈比提出制造一个会“爱”的孩子机器人(不是那种仅限于感官刺激的爱,比如性爱;而是涉及到更高级的情感,比如孩子对于父母的爱),一个听众问道:
“如果这个机器人真的能爱一个人,这个人对机器人有着什么样的责任(If a robot could genuinely love a person,what responsibility does that person hold toward that Mecha in return)?”
而哈比对这个问题的回答是:“上帝(人类)不是也创造了亚当(机器人)去爱他吗?”在神话的版本中,亚当得到了智慧,却被逐出了伊甸园,和上帝所代表的天堂分开。如此看来,哈比的话语似乎可以这样解读:“机器人自然要无条件地爱(或者说是服从)着人类,而人类可以对此不负责,因为机器人程式设定本该如此。但是如果机器人的智慧突破了某种极限,以至于机器人也开始像制造他们的人类一样萌生出贪婪、狡诈、欺骗、嫉妒等种种意识,那么这种机器人就没有活路可以走了,人间没有它待的地方。”
在后续情节中,我们可以从很多人身上看到哈比的心理,比如收养第一个小孩机器人大卫的母亲莫妮卡的亲儿子马丁,他将大卫视作“新的超级玩具(new supertoy)”;莫妮卡的丈夫亨利认为大卫只是个用来抚慰妻子情绪的玩物,当莫妮卡说“he is only a child.”时,亨利轻蔑地说“he’s a toy.”(有趣的是,莫妮卡接下来说“he’s a gift from you”,相当有趣而模棱两可的说法);更不用说机器屠宰场里老板约翰逊将大卫称作“一个活生生的机器小玩偶(A bitty-bot, a Tinkertoy, a living doll)”,并警告吃瓜群众小心这些机器小孩“steal your hearts, replace your children”,还痛心疾首地说“这是对人类尊严的最大羞辱(this is the latest iteration in a series of insults to human dignity)”。在他们看来,大卫和机器熊泰迪一样,都是,也只能是供人取乐的玩物,因为大卫不是有血有肉的人(organic,real),而只是一个由机械装置做的、不能进食和排泄的智能体,因此即使是懂得“爱”这种高级情感的机器人,其天生从属于人类也是理所当然的,需要就使用,不需要就“屠宰”销毁,人类要对机器人负责任这种说法根本就是无稽之谈。这种看法也不奇怪,毕竟每一个被制造出来的机器人都像人类的仆人持有着“执照”,如果“执照”过期就会马上像牲畜一样拉去处死供人取乐,这样的机器人真的有资格得到主子的爱吗?
但问题是,一旦机器人拥有了“爱”这种情感,那么为了获取这种“爱”,机器人是否会不择手段,甚至以伤害人类为代价,去争取这种“爱”?更何况这种行为是无法预测的。机器人公司老总哈比很高兴自己亲手制造的小孩机器人能够“在没人教导的情况下受到爱的感召,欲望的驱使(inspired by love, fueled by desire, no one taught you how)采取行动”,一个蓝海市场向他徐徐敞开。但谁敢保证,这种产品不是打开了潘多拉魔盒?大卫在马丁的教唆下半夜潜入莫妮卡卧室剪她头发后,亨利警告莫妮卡:“他懂得爱,应该也懂得仇恨。(If he was created to love, then it’s reasonable to assume he knows how to hate.)”这种说法相当具有说服力,为了爱人类而制造出来的机器人,在一定转化条件下也可能对人类拿起武器。当大卫碰见和自己相仿的量产机器人时,陷入情绪失控中,一边打砸家具一边怒吼“She’s mine! I’m the only one! I‘m special! I’m unique! I’m David!”。在这个瞬间,自我意识在大卫身上觉醒了,当然还伴随着自我怀疑和认知混乱。【这个地方深入讨论下去的话很可能触及到有关人的本质的问题,不过我能力不足,在此也不赘述了,期待大佬补充】连大卫这种温顺的小孩机器人都会做出如此极端的举动,如果更多的带有情感和情绪的机器人生产出来投入应用,当他们意识到自己作为一个群体被人类所鄙夷和排斥时,是否会联合起来和人类对抗?这都不好下定论。如果真是这样发展的话,那么机器人和人类终究还是不能共存的。
不过,在影片中我们也可以看到,并不是所有人类都将这种懂得“爱”的机器人视为洪水猛兽。当屠宰场老板约翰逊邀请观众向被绑在台上的大卫投掷石头的时候,观众选择将石头丢向约翰逊,说:“He’s just a boy.”,指责约翰逊是个混蛋。莫妮卡对大卫的态度从最初的抗拒和无所适从,到后来的可能在另外一些人看来,如果真的存在这样一个机器人能够真诚地爱自己,那自己也平等地回馈以爱,不是理所当然的吗?现实生活中,人类移情于非人生物(比如宠物),甚至非生物(比如和二次元人物结婚)的现象并不少见,那么爱机器人、接纳机器人、以至于与机器人共存这个选项貌似也不是很反人情的选择,在某些情况下,机器人还可能比人类更能满足爱的需要(比如一心一意爱着自己的情人机器人,虽然这里存在寿命论这个bug)。然而,当机器人懂得爱的时代到来之时,我们人类真的做好共存的准备了吗?真的出事(比如大卫启动自卫机制却把马丁拖下水差点令其溺水身亡)了,是人类负责还是机器人负责?还是生产机器人的厂家负责?我们应该一视同仁还是偏袒其中一方?【大卫:只要蓝仙女把我这个匹诺曹变成真人,一切都会好起来的。】这些事情显然不太可能有统一的意见,涉及到的政策、伦理等方面的考量太多,但是这些问题确实值得摆在台面上认真讨论和思考。
最近AI“复活”亲人的技术引起了广泛讨论,虽然目前的技术仅能够重现亡者的二维影像和声音,但说不定二十年、三十年之后,小孩机器人、老人机器人等拥有人类高级情感的人工智能体就可以实现批量生产,影片所描绘的未来对我们来说并不是那么遥远。我不赞成抱着“期待后人的智慧”的想法回避上述问题,因为我不相信仅仅几十年的跨度,我们的社会思想就能够及时跟进快速更新迭代的技术,或许几十年后的人也未必能把这些问题想明白。
在影片的最后,历经千年的大卫靠当年剪下的头发复活了早已死去的莫妮卡。虽然这个再生人仅仅只能存在一天的时间,但这一天对于大卫来说即是永恒,即是梦想成真的幸福之日。这一幕貌似温馨,但我在观看时却联想到“猴爪”的故事(这个故事可以直接百度了解),觉得有些毛骨悚然。大卫复活的这个承载记忆的莫妮卡,真的是“人类”莫妮卡吗?还是说她也是个机器人呢?那些丧失所爱之人(程式设定的)的机器人,会不会同样试图去“复活”自己的所爱之人呢?这些被“复活”的生物体还能称为“人类”吗?这里就有些
《仿生人会梦见电子羊吗?》
的味道了,下次去补补。
写完之后回顾了一下上面的影评,发现自己几乎没给什么意见,全程都在问问题了(摊手)。【斯皮尔伯格确实是个鬼才,把个本质很冷酷的故事尽力拍的很温情和富有童趣了,难以想象换成库布里克来拍会变成什么样。】其实这部可以讨论的点实在是太多了(比如情人机器人乔、机器熊泰迪等),只是我的思想见识确实有限,影评也是挂一漏万,期待大家的讨论。