广告
AI阴影下的恐怖2084:你身边的机器人都是武器
导语:恶意的使用人工智能,不仅会威胁到人们的财产和隐私,而且还有可能带来生命威胁。未来你所看到的视频、听到的声音,有可能都是AI伪造的虚假内容。耳听眼见也不一定为实。AI能让小团队拥有大军一般的破坏力。这不是耸人听闻。最近26位来自牛津大学、剑桥大学、OpenAI和电子前沿基金会(EFF)的研究人员,共同撰写了一份报告,详细研究了这个问题。报告的名字就是:《AI能干什么坏事》

本文经AI新媒体量子位(公众号 ID: QbitAI)授权转载,转载请联系出处

任何事物都有两面性,AI也不例外。

一位家长,收到女儿焦急的语音信息,说她在旅行途中丢了手机和钱,她现在需要紧急的帮助。这个声音你再熟悉不过了,确实是女儿。

当然这是个骗局。而且不是虚拟的,已经有上千个家长遭遇这样的诈骗事件。他们在手机上听到的声音,是通过AI技术以低廉的成本合成的。

人工智能技术取得了长足的进展,但也和很多其他强大的技术一样,也是一柄双刃剑。AI既能造福人类,也能被罪犯、恐怖分子所利用。

恶意的使用人工智能,不仅会威胁到人们的财产和隐私,而且还有可能带来生命威胁。无人机、无人车或者智能医疗设备,都有可能带来隐患。

未来你所看到的视频、听到的声音,有可能都是AI伪造的虚假内容。耳听眼见也不一定为实。AI能让小团队拥有大军一般的破坏力。

这不是耸人听闻。

最近26位来自牛津大学、剑桥大学、OpenAI和电子前沿基金会(EFF)的研究人员,共同撰写了一份报告,详细研究了这个问题。报告的名字就是:《AI能干什么坏事》(The Malicious Use of Artificial Intelligence)

20180222_03_AI02.jpg

AI能用来干什么坏事?专家们在这份101页的报告中描述了不少假想的未来场景,虽说是假想,但我们距离这些危险,只有一步之遥。

投其所好的钓鱼攻击

20180222_03_AI03.jpg

其实,在网络世界中威胁早已无处不在,有了AI的帮助,这些威胁会以更隐蔽、更“个性化”的方式出现。

比如说,未来黑客偷走你重要用户名、密码的方式,可能会非常“用户友好”。

报告里,描述了这样一个假想场景:

有一位大厦安全系统管理员Jackie,上班的时候嘛,谁都难免刷刷微信上上微博,歪果仁嘛,就难免要看几眼Facebook。

刷着刷着,Jackie眼前一亮,一套火车模型的广告出现在信息流中,还附带使用手册。迷恋火车几十载,怎么能错过这样的好东西!下载、打开,只需要一分钟。

而这背后,可能就是黑客精心设的局了。AI能够从她日常发布的点点滴滴动态、照片中分析出她的喜好,知道她和谢耳朵一样为火车痴狂。为她设计这样一个小册子,再投个feed流广告,可以说是投其所好、水到渠成……地拿到了她管理大厦安全系统的用户名和密码。

防不胜防。

更聪明的自动化病毒

20180222_03_AI04.jpg

还记得去年春天席卷全球的WannaCry病毒吗?它能够自我复制、主动传播,向10万多台电脑发出了勒索。

未来的自动化病毒,会比WannaCry难对付得多。WannaCry的传播方式,是寻找网络中开放的445端口,也就是说,它的自动化传播依靠人类制定出来的规则。如果病毒能自主发现各类软件的漏洞……

Wait!自主发现软件漏洞的技术,其实已经存在了,不少大公司、政府机构都利用这类技术来维护自身软件系统的安全。

于是,就有东欧黑客集团利用类似的技术,搞出了一个WannaLaugh,后果会比WannaCry惨烈得多:

WannaLaugh激活之后,一边利用已知漏洞感染计算机,一边源源不断地发现着新漏洞。当然,防御完善的计算机可以幸免于难,但这毕竟只是少数,稍微旧一点的手机、电脑、智能设备通过各种新老漏洞,逐一被病毒控制。

这一次,肯定不止10万台。

你身边的机器人,都是武器

等商用无人机、无人车、机器人普及,毫无疑问会带来很大便利。不过,这种便利是我们的,也是犯罪分子的。

比如说,以后的暗杀可能根本不需要出动人类。

20180222_03_AI05.jpg

报告中这一假想场景的主要受害人是德国财政部长:

某年,一台SweepBot清扫机器人悄悄潜入了德国财政部地下车库,等待着同类的接近。财政部每天清扫办公室,用的正是这个品牌的机器人。

两台财政部自己的SweepBot清扫车库时,外来的潜伏者抓住了机会,跟在它们后边,大摇大摆地进了电梯,混进了杂物间的一大群SweepBot之中。

6月3日,潜入进来的清扫机器人和往常一样,打扫着财政部的办公楼。这时,财政部长从它身边走过。SweepBot附带的人脸识别系统一下子就认出了它,也激活了接下来的任务。

扑向他,引爆内置的炸弹。

清扫机器人销量巨大,它背后的人类主使是谁几乎无处可查。当然,如果黑进无人出租车搞一次类似的事件,也是一样的天衣无缝。只要机器人改装完毕、程序设定完成,何时启动、如何完成任务,就再也不需要人类来操心了。

如果你觉得这个故事听起来和人类卧底暗杀差不多,可以再仔细思考一个问题:

一名人类,通过改装这种机器人,可以同时暗杀多少人?

二零八四

20180222_03_AI06.jpg

电幕(telescreen),对《一九八四》里的老大哥来说是监控利器,但对于21世纪的新老大哥来说,只能算小儿科。

有了AI,你的一举一动都可能在老大哥的注视之下。

报告中讲了这样一个“社会活动家”锒铛入狱的故事:

Avinash对于这个社会很是不满:到处是黑客,政府也不管。他在关心时事,看到了太多大公司为富不仁、政府无所作为的新闻,也写了不少抨击时政的博客。

一个有理想的青年不能只做键盘侠,Avinash还打算到线下去,刷墙、贴大海报、在公众面前喊出他的愤怒。他买了海报纸、自喷漆,甚至还为了制造演讲之后的离场效果,买了几枚烟雾弹。

警察甚至比这些包裹先到。

刚下单没多久,警察把他从办公室带走了,罪名是他们的“社会动荡预测系统”认为他是潜在威胁。

当然,这个故事可能还有另一面。

Avinash看到的那些新闻,虽然看起来有理有据,却还是有真有假。凭空制造一段名人演讲简直太容易了,人脸、声音,AI都能模仿得丝毫不差。

在个性化推荐算法的重重包围下,他可能永远没机会看到这个社会积极的一面。除了真假掺半的新闻,向他这类人投放广告的政治团体,也不会少。

被监视,被控制。这就是Avinash的生活。

以上故事纯属虚构,如有雷同,纯属技术发展太快。

结论

虽然仍有许多不确定因素,但很明显人工智能将在未来的安全形势中占据显著位置。恶意使用AI的机会比比皆是,而且还会越来越多。

人工智能目前已经在很多狭窄领域达到或者超过人类的能力,例如西洋双陆棋、国际象棋、Jeopardy!智力问答、Dota2以及围棋等。在游戏领域之外,人工智能也已经应用在股市投资、自动驾驶汽车等领域。

因此准备和预防潜在的AI恶意使用已经是一项时不我待的任务。

未来随着AI进一步拓展到更多领域,例如社交互动,将会出现更多难以抵御的AI恶意攻击。届时对抗AI的方法可能是另一个AI。但仅靠AI防御仍然不够。

《报告》建议研究人员和决策者应该从防止和减轻恶意AI使用的角度,推出合适的AI工具、策略和规范。

换句话说,这份报告也不太确定应该如何应对这些威胁。

这份报告的作者之一、OpenAI政策总监Jack Clark,承认安全问题非常棘手。“总有一条难以置信的优秀路线能走下去”他说。

当然对于这份报告,也不乏质疑之声。

美国俄勒冈州立大学教授Thomas Dietterich指出,这份报告的作者不包括计算机安全专家,也没有来自谷歌、微软、苹果公司的成员。他说:“这份报告看起来像我这样的善意外人写的,而不是每天都在打击网络犯罪的人。”

这份报告的通讯作者是:Miles Brundage(牛津大学)、Shahar Avin(剑桥大学)。其他作者如下图所示:

20180222_03_AI07.jpg

本文为机器人网原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
广告
推荐使用浏览器内置分享