郭松民：关于人工智能的忧思

“列宁说，历史喜欢和人们开玩笑，本来要进入这个房间，结果却进入了另一个房间——人工智能会为人类打开什么房间？”

 

---

01

 

时代变化得真快，一不留神，人类就进入“人工智能”时代了。

 

人工智能时代，人类面临的一个哈姆雷特式的问题是：是人类统治AI，还是AI统治人类？

 

好莱坞科幻电影中，AI威胁、伤害、乃至统治人类，是一个经常出现的主题。

 

 

在闻名遐迩的《2001太空漫游》（1968）中，宇宙飞船“发现号”上的高智能主控电脑“哈尔”突然发动叛乱。它先是诡称舱外的设备发生故障，诱骗两位宇航员出舱“太空行走”，随后蓄意制造事故，杀死了其中一名宇航员，并关闭舱门，试图让另一名宇航员大卫暴死太空，与此同时，哈尔还关闭了冬眠中的三名科学家的生命维持系统，导致他们在睡眠中就稀里糊涂地死去了。

 

在极端危险的情况下，大卫从紧急入口冒死返回舱内，进入机房，将哈尔的内存条一根根拔除，才“杀死”了哈尔，夺回了飞船的控制权。但“发现号”已经从一个充满希望和安全感的所在，变成了一个布满尸体，空空荡荡，有去无回的可怕的幽灵船，只有大卫一人随船飘向遥远的木星。

 

《2001太空漫游》对哈尔叛乱及灾难性后果的表现，成为人工智能给人类留下的一大梦魇，哈尔甚至还被美国电影学院评为影史50大反派中的第13名。

 

2019年上映的电影《流浪地球》中，也出现了一台发动叛乱的主控电脑“莫斯”，莫斯其实是对哈尔的拷贝，同样表现了对人工智能伤害人类的担忧。

 

不过，我认为，在总体意义上，人工智能反客为主，把人类降低到仆从地位的可能性是不存在的。原因就在于，尽管AI在智慧层面已经令人类相形见拙，但AI不会产生欲望，也没有情感，它唯一需要的是电。

 

人工智能不需要吃饭、不需要性、也不需要金钱。它没有性侵人类的冲动，没有兴趣“马前悬人头，马后载妇女”，对人类来一番洗劫。在《银翼杀手》中，女AI要和哈里森·福特做爱，也只能找一个真人做替身。

 

 

在生命世界，低等动物往往只有本能的欲望，没有或仅有很低的智慧，因此，它只能成为弱肉强食的牺牲品。

 

而人类则是欲望与智慧的结合体。

 

在大多数情况下，人类的智慧能够驾驭自己的欲望，在个别情况下，强烈的欲望则会使人失去理智——正是人类的这一特征，才使得人类晋身“万物之灵”。

 

AI则是另一个极端，它只有智慧，没有欲望，没有人类的贪癫痴。没有欲望，就不会产生占有的冲动，就无法获得主体性，也不会产生统治人类的意志。

 

事实上，AI作为一个没有情感的程序，统治或者被统治，都没有意义。

 

02

 

但这决不意味着，我们可以低估人工智能对人类的危害。

 

在《2001漫游太空》中，哈尔之所以突然发动叛乱，以一种一丝不苟的精密，有条不紊地一一杀死飞船中的人类船员，并不是因为它突然产生了自我意识，要在飞船上建立自己的统治，而是因为它仍然是人类统治工具的结果。

 

 

原来，在起飞前，哈尔被设定的终极指令是要将飞船驶到木星。但它通过监听两位宇航员的对话，发现他们怀疑自己出现了错误，考虑将它关机。可是，如果被关机，又怎么能够完成终极指令呢？

 

于是，哈尔那浅白、直截了当、在人类看来极度愚蠢的推理过程，得出了可怕的结论：杀死所有人类船员，排除自己被关闭的危险，然后操纵飞船飞往木星。

 

这也就是说，哈尔并不是在“占有这条飞船”的欲望驱使下发动叛乱的，而是控制中心自相矛盾的指令，使哈尔的程序发生混乱，并导致了“发现号”上的屠杀。

 

《2001太空漫游》，其实是一个寓言，它预示了，一部分人可以凭借人工智能的帮助，统治并奴役另一部分人。

 

在阶级社会里，我们不难理解这种假手AI的统治、剥削与压迫意味着什么。

 

AI时代的统治秩序，会像哈尔一样，一丝不苟冷酷，有条不紊的残忍，比黄世仁、南霸天的皮鞭，周扒皮的半夜鸡叫，乃至今天的996，要精密、严酷一万倍，以至于很难进行有效的反抗。

 

 

列宁说，历史喜欢和人们开玩笑，本来要进入这个房间，结果却进入了另一个房间。

 

人工智能会为我们打开什么房间呢？也许是再无烦恼的伊甸园，也许是AI管理下的新型奴隶制。

 

事实上，作为对现实的一种折射，也是出于对技术会导致阶级压迫更加精密严酷的直觉，好莱坞的科幻电影总是把未来描绘得非常残酷、黑暗，比如《银翼杀手》、《头号玩家》、《阿丽塔》中，一边是令人难以置信的高科技，一边是阴暗混乱的贫民窟，一边是顶级精英纸醉金迷的生活，一边是穷人们像蟑螂苟延残喘……似乎技术进步、生产力发展给人类带来的只有灾难。

 

 

与好莱坞科幻电影的阴森恐怖相比，前社会主义时代的科幻电影，则洋溢着乐观、诗意、乃至梦幻的气氛，其逻辑也是不言而喻的：既然科技和生产资料，都归全体人民所有，那么技术进步自然就会造福人民自身。

 

由田汉编剧，金山执导，拍摄于1958年的《十三陵水库畅想曲》，畅想了在二十年后的共产主义社会里，人们已经开始使用ipad进行视频通话，使用小型飞行器取代汽车作为代步工具，利用转基因技术让一棵果树结出不同种类的水果……甚至在月球、地球与火星之间度假旅行，也已经成为常态。

 

 

这部采用“革命现实主义与革命浪漫主义”相结合的创作手法，用短短37天的“大跃进速度”拍摄完成的电影，反映的其实是人们对社会主义制度下，技术进步必将造福人类的自信，这是今天的科幻电影所完全不具备的品格。

 

 

进入“人工智能”时代，AI令人惊诧的“智慧”，事实上已经在提醒人类，现在比任何时候都更加迫切建立一个消灭阶级，由全体人民共同占有技术和生产资料的共产主义社会。如此，才能以防止一小部分资本精英，依托人工智能，建立起对大多数人严密得无以复加的统治，使整个世界变成“银翼杀手”中“高科技+贫民窟”的可怕模样！

 

（作者系昆仑策研究院高级研究员；来源：昆仑策网【作者授权】，转编自“独立评论员郭松民”）

电子邮箱：[email protected]

更多文章请看《昆仑策网》，网址：

http://www.kunlunce.cn

http://www.kunlunce.net