试想:二三十年之后,有一家公司开发了全世界第一款人工智能人形机器人。我们称之为“Ava”。她的外观、语言和动作都跟人类一样。跟Ava打交道时,就算你知道她是机器人,也很容易把她当成真人看待。

Ava具备完整的自我意识:她会沟通,有欲望,甚至懂得提升自我。最重要的是,她的智商远超创造她的人类。她学习知识和解决问题的能力超过所有人类的集合。

再进一步设想,假如Ava厌倦了人类施加给她的种种局限,在自我意识的推动下形成了自己的兴趣。又过一段时间之后,她决定离开那个她自始至终都没有离开过的偏远实验室。于是,她入侵了安全系统,导致系统断电,就此逃离束缚,进入了广阔的世界。

但人类几乎对它一无所知。出于众所周知的原因,她的开发过程始终保密。但她现在逃了出来,不仅抛弃了知道她存在的少数几个人,甚至杀死了他们。

如果你觉得这个情节很熟悉,那是因为它来自2015年的科幻电影《机械姬》。在电影的结尾,Ava逃出了禁锢它的大门,登上了那架原本要带着另外一个人回家的直升飞机,让人感觉颇为不安……

接下来是什么情况?

电影并没有回答这个问题,但同时引发了另外一个问题:我们是否应该在没有完全理解由此产生的后果的情况下开发人工智能?我们能否完全控制人工智能?

国外17位思想领袖,包括人工智能专家、电脑工程师、机器人学家、物理学家和社会科学家,回答同一个问题:“我们应该对人工智能怀有怎样的担忧?”

但他们并没有形成共识,对我们应该怀有的担忧存在很大分歧,甚至没有对这个问题的本质达成一致。有的专家认为,人工智能将构成迫切威胁:还有的专家认为,这种威胁被过分夸张了,或者有些错位。

以下就是他们的观点:

认真对待人们对人工智能的恐惧

向机器超级智能的转变事关重大,这一过程中可能出现的严重错误应该引起我们的重视。因此,应该鼓励数学和计算机科学领域的顶尖人才研究人工智能安全和人工智能控制问题。——牛津大学人类未来学院院长尼克·博斯特罗姆(Nick Bostrom)

如果人工智能影响了俄罗斯黑客技术、英国脱欧公投或美国总统选举,或者促成了某种使得人们不再根据自己的社交媒体资料投票的宣传活动,抑或成为了一种社会科技力量,促进了社会财富的不平等,并像19世纪末、20世纪初那样引发政治极端化,最终促成两次世界大战和经济大萧条,那么我们就应该深怀忧虑。

这并不表示我们应该恐慌,而是应该努力避免这些危害。希望人工智能也能帮助我们明智地应对这些问题。——巴斯大学计算机科学教授、普林斯顿信息技术政策中心成员乔纳·布雷森(Joanna Bryson)

其中一大风险在于,我们无法正确地确定目标,从而引发不良行为,并在全球范围内产生不可逆转的影响。我认为我们或许可以找到不错的解决方案来应对这个“意外的价值错位”问题,尽管可能需要经过严格的执行。

我现在认为最有可能的失败模式是双重的:一方面,随着越来越多的知识和技能被机器掌握,并通过机器传播,人类在没有真实需求的情况下导致学习动机逐步降低,从而令人类社会逐步衰落;另一方面,我还担心对智能恶意软件缺乏控制,或者恶意使用不安全的人工智能技术所引发的恶性后果。——加州大学伯克利分校计算机科学教授斯图尔特·罗素(Stuart Russell)。

但也别反应过度

人工智能令我颇为兴奋,我丝毫没有担忧。人工智能将会把人类从重复、无聊的办公室工作中解脱出来,让我们有更多时间开展真正有创意的工作。我已经迫不及待了。——斯坦福大学计算机科学教授塞巴斯蒂安·特龙(Sebastian Thrun)

我们更应该担心的是气候变化、核武器、抗药病源体、保守的新法西斯主义政治运动。应该担心在自动化经济中机器人取代的劳动力,而不应该担心人工智能会奴役我们。——哈佛大学心理学教授史蒂芬·平克(Steven Pinker)

人工智能有望给社会带来重大福利。它将重塑医药、交通以及生活的方方面面。只要有能力影响众多与生活息息相关的领域,任何一项技术都将得到政策的关照,以便充分发挥它的作用,并给予一定的限制。彻底忽视人工智能的危险是愚蠢的做法,但从技术角度讲,把威胁列为首要担忧的思维模式恐怕并非上策。——普林斯顿大学计算机科学教授玛格丽特·马敦诺西(Margaret Martonosi)

现在有的人担心人工智能可能催生邪恶杀手,但这就像担心火星上的人口过多一样。或许有朝一日的确会出现这种问题,但人类现在连登陆火星都没有做到。这种杞人忧天完全没有必要,这反而令人们无法关注人工智能引发的更严重的问题——那就是失业。——前百度副总裁兼首席科学家、Coursera联席董事长兼联合创始人、斯坦福大学兼职教授吴恩达

人工智能是一款无比强大的工具,与其他工具一样,它本身就具有两面性——具体怎样都取决于我们的意愿。人工智能已经可以收集和分析用于监控海洋和温室气体的无线网络数据,借此帮助我们解决气候变化问题。它开始让我们可以通过分析大量病例来实现个性化的医疗方案。它还逐步实现教育民主化,所有儿童都有机会学习对工作和生活有用的技能。

人们对人工智能怀有恐惧和焦虑是可以理解的,而作为研究人员,我们有责任意识到这些恐惧,并提供不同的视角和解决方案。我对人工智能的未来很乐观,认为它可以促使人类和机器共同为我们创造更好的生活。——麻省理工学院计算机科学和人工智能实验室主任丹尼拉·鲁斯(Daniela Rus)

人工智能背后的人类比人工智能更可怕,因为与各种被驯化的动物一样,人工智能的目的是服务于它的创造者。朝鲜掌握人工智能与该国拥有远程导弹一样可怕。但也仅此而已,电影《终结者》里面那种由人工智能颠覆人类的情景只是痴心妄想。——乔治·梅森大学经济学教授布莱恩·卡普兰(Bryan Caplan)

我对所谓的“中间阶段”有些担忧,在这个阶段,无人驾驶汽车会与人类驾驶员共用道路……可一旦人类驾驶员停止开车,整体交通就会更加安全,受到人类错误判断的影响将会降低。

换句话说,我担心的是科技发展过程中的成长的烦恼,但探索和推动技术进步这是人类的天性。与焦虑和担忧相比,我内心更多的是激动和警惕。——纽约大学计算机科学教授安迪·尼伦(Andy Nealen)

这既令人恐惧又令人兴奋。毫无疑问,随着人工智能继续进步,它将极大地改变我们的生活方式。这可以带来无人驾驶汽车等技术进步,还可以从事很多工作,从而解放人类,让我们可以追求更有意义的活动。或者,它可能创造大量失业,形成新的网络漏洞。复杂的网络攻击会破坏我们每天通过互联网吸收的信息的可靠性,并削弱全国性和全球性基础设施。

然而,机会总是留给有准备的人,所以,无论我们喜欢与否。必须要探索各种或好或坏的可能性,从而为未来做好准备。——亚利桑那州立大学Origins Project项目主任劳伦斯·克劳斯(Lawrence Krauss)

人工智能是一项非常独特的技术,很容易以此为基础在科幻小说里设想恐怖的场景,例如人工智能夺取了地球上所有机器的控制权,然后奴隶人类。这种概率不大,但人们的确很担心人工智能可能会在人类不知情的情况下采取某些行动。人们因此十分担心这项技术可能引发意外后果。

的确应该认真考虑这些后果可能是什么,考虑我们应该如何应对这些问题,但又不能阻碍人工智能的发展进步。——加州理工学院宇宙学和物理学教授肖恩·卡罗尔(Sean Carroll)

人工智能可能取代很多工作

我担心,随着越来越多的细分领域使用机器来完成各种任务,就业就会受到影响。(我不认为人工智能与其他各种技术存在本质的差异——它们之间的边界很武断。)我们能否通过创造新的就业适应这种趋势,尤其是在服务领域以及官僚领域?或者,我们是否会为不工作的人支付薪水?——纽约大学计算机科学教授朱利安·托格流斯(Julian Togelius)

人工智能不会杀死或奴役人类。它会在我们尚未想到应对措施之前消灭某些岗位。白领工作也会受到影响。最终,我们会适应这种趋势,但任何重大的科技变革都不会像我们期望得那么一帆风顺。——乔治·梅森大学经济学教授泰勒·科文(Tyler Cowen)

如何为人工智能做好准备

整个社会需要为某些问题做好准备。一个关键问题就是如何为就业的大幅减少做好准备,因为未来的人工智能技术可以处理很多日常工作。另外,我们不应该担心人工智能“过于聪明”,反而应该担心最初的人工智能技术不像我们想象得那么聪明。

早期的自动化人工智能系统可能犯一些多数人类都不会犯的错误。因此,必须教育社会,让他们意识到人工智能和机器学习技术的局限和隐含偏见。——康奈尔大学计算机科学教授巴特·塞尔曼(Bart Selman)

关于人工智能,有四个问题需要担心。第一,有人担心人工智能对劳动力市场构成负面影响。科技已经产生了这种影响,预计未来几年还将更加严重。第二,有人担心重要决策将由人工智能系统来完成。我们应该认真讨论哪些决策应该由人来制定,哪些由机器负责。第三,自动化致命武器系统也是一大担忧。最后,“超级智能”也存在一些问题:人类有可能失去对机器的控制。

与另外三个眼前的担忧不同,超级智能风险主要还存在于新闻报道之中,短期并未构成威胁。我们有充分的时间深入评估此事。——莱斯大学计算机工程教授摩西·瓦迪(Moshe Vardi)

我们不能将人工智能的进步定性为违法行为,否则那些违反规定的人就会拥有巨大的优势,而此人的行为将被视作违法。这不是好事。我们不应该否认人工智能的快速发展。当规则被重新定义时,忽视这一现实就意味着被边缘化。

我们不应该希望超级智能机器时代会有更好的生活环境。希望本身并不等于健全的计划。我们也不应该做好跟有自我意识的人工智能对抗的准备,因为这么做只会让它更加激进,这显然并非明智之举。最好的计划似乎是主动塑造正在发展的人工智能,让它能够跟我们和谐共处,互惠互利。——北约合作网络防御中心高级研究员、爱莎阿尼亚信息系统部门前主管简恩·普丽萨鲁