向右滑动:上一篇 向左滑动:下一篇 我知道了
广告

我们的AI技术符合道德标准吗?

2018-06-11 作者:Nitin Dahad
导语:人工智能将会改变许多事情,无人驾驶汽车、军用和工业无人机、机器人,以及在医疗、政府和城市功能等领域的其他许多应用都可能受到影响,然而,这项新技术也引发了前所唯有的关于伦理道德的争辩……

大约从五年前开始,每个人都在谈论物联网(IoT)以及它将如何通过数亿台设备互连来改变一切。我们似乎周而复始地经历一项新技术被大肆宣传的循环,如今轮到人工智能(AI)了。d38机器人网

在我大约33年来的电子产业与半导体职业生涯中,我看到了技术革命的三大变化。首先是微处理器时代,然后是因特网,接着是移动时代。而今,就像新思科技(Synopsys)联合首席执行官Aart de Geus最近所说的:“现在是AI时代!”他还在日前参加的一场活动中提到,AI将推动半导体产业在未来几十年的发展,因为大数据(big data)需要机器学习,而机器学习需要更多运算,这些都将产生更多的数据。d38机器人网

的确,AI如今正处于市场研究公司Gartner所谓“炒作期”(hype cycle)的上升阶段,但它似乎又不同于之前引进新技术的情况:我从未见过一项技术引发这么多关于伦理道德的争辩。AI将会改变许多事情,无人驾驶汽车、军用和工业无人机、机器人,以及在医疗、政府和城市功能等领域的其他许多应用都可能受到影响。d38机器人网

20180611_02_AI02.jpgd38机器人网

2017年版Gartner新技术成熟度曲线d38机器人网

英国政府日前发布了一份长达183页的《英国AI发展现况调查》(AI in the UK: ready, willing and able?)报告,涵盖许多有关AI系统的责任、监管与伦理道德等议题,以及在AI研究与商业化应用方面的创新、投资与技巧等其他主题。d38机器人网

英国上议院特别委员会主席Lord Clement-Jones说:“英国有着领先的AI公司、充满活力的学术研究文化、活跃的创业生态系统,以及大量的法律、道德、金融和语言优势。我们应该充份利用这样的环境优势,但关键在于必须以道德准则作为发展AI的关注重点。”d38机器人网

Jones说:“AI并非没有风险,委员会提出的道德原则将有助于减轻这些风险。道德方法确保大众相信这项技术并且看到使用它的好处,同时也使其准备好质疑技术是否遭到滥用。我们要确保这个国家仍然是研究和开发这项新技术的前哨站。不过,新创公司可能很难自行扩大规模。”d38机器人网

在该委员会的报告中,许多建议均指出AI需要透明化。当AI被用来做出重大或敏感的决策时,应该建立一个自发性机制来告知消费者。该报告并指出,当AI系统故障或对用户造成伤害时,现行法律是否足以明确相关责任,目前并不清楚,因此,该领域亟需尽快明确责任归属。d38机器人网

让AI透明化d38机器人网

AI系统能够透明且易于理解吗?是否存在一定的技术透明度,让人们能针对系统为什么做出某一项特定决定提出质疑?d38机器人网

业界对此以及AI系统的问责制都有详细讨论。在许多深度学习系统中,通过许多不同的处理层馈送信息并得出最终解答或决定,可能会让系统看起来像“黑盒子”,即使是其开发人员也不一定都能够确定哪些因素导致系统决定其中一项比另一项更重要。d38机器人网

英伟达(Nvidia)欧洲、中东、非洲(EMEA)解决方案架构和工程团队总监Timothy Lanfear提出了另一种看法。他说,机器学习算法通常比传统的软件编码更短、更简单,因此在某些方面也更容易理解与侦测。“我们每天都在使用那些复杂到无法吸收的系统。AI并没什么不同。它也处于一种无法完全理解的复杂程度。然而,你唯一能做的是把它分解成片段,找到测试它的方法,然后检查它是否按你期望的方式进行,如果不是的话,就采取行动。”d38机器人网

该委员会坦承,要达到技术上的完全透明化相当困难,对于某些AI系统来说甚至是不可能的,特别是在某些情况下甚至并不适用。然而,在一些安全关键的场景中,技术必须是透明的。在这些领域的监管机构必须有权强制使用更透明的AI技术。d38机器人网

英国AI委员会在其报告中还提到,“我们认为部署任何可能对个人生活造成潜在影响的AI系统都是不被接受的,除非它能对自己所做的决定提出充份且令人满意的解释。例如对于像深度神经网络(DNN)等无法为其决定产生完全解释的情况,可能意味着必须延迟某些特定用途的部署,直到找到替代解决方案。”d38机器人网

致力于开发全堆栈无人驾驶汽车功能的英国无人驾驶汽车初创公司FiveAI首席执行官Stan Boland并不认同该报告中提出AI系统存在的黑盒子现象。他说:“我们的系统是完全模块化的,这对于解释和除错系统以提升技术和服务来说非常关键。任何系统在实际上路之前都必须经过多次独立验证。”d38机器人网

他补充说,全世界采用自动驾驶的方案各不相同,“例如,在英国伦敦(London)和美国山景城(Mountain View)就有不同的运作方式。每个城市由于生活方式和环境条件不同,自动驾驶系统的模式也各异其趣。对我们来说,重点在于打造出符合欧洲客户需求的解决方案。”d38机器人网

各国加码投资AId38机器人网

英国政府的这份报告也为全球的AI研发提供另一个视角。根据高盛(Goldman Sachs)的数据显示,在2012年第1季到2016年第2季之间,美国对于AI的投资达到了182亿美元,中国大陆和英国分别是26亿美元和8.5亿美元。随着中国大陆致力于成为AI的全球领导者,预计到2030年,在其发展AI生态系统方面的投资将上看1,500亿美元。d38机器人网

有鉴于现有资源的差异性,英国在AI领域的投入规模可能比不上中、美。德国和加拿大则有更多的比较性。德国的AI策略受其打造旗舰级工业4.0策略影响颇深。其策略探索以AI提升智能制造的过程,并产出整合AI功能的智能商品,例如冰箱和汽车。而加拿大的AI策略则较不专注于为特定领域开发AI,但该国政府已经拿出1.25亿美元成立了三座新的AI研究所,并吸引更多来自全球的AI研究人员。d38机器人网

处理器瓶颈?d38机器人网

过去十年来,尽管深度学习在AI的进展中扮演了重要角色,但它也存在一些问题。深度学习需要大量的数据集,这极难取得且费用昂贵,而且还需要大量的处理能力。该报告中提到,尽管深度学习近来随着处理能力提高而明显进步,但摩尔定律(Moore’s law)开始面临挑战,处理能力提高带动降价的脚步开始放缓。诸如量子运算等创新也还无法使其复苏或加速,不过现在还为时尚早,未来还有很多的不确定性。d38机器人网

深度学习先驱Geoff Hinton提出了深度学习革命可能很快结束的警告。其他人的看法则较乐观,特别是由于各种客制AI芯片的出现,如Google的张量处理器(TPU),以及量子运算的进展,都为深度学习的未来提供了新的发展动能。d38机器人网

犯罪滥用与监管d38机器人网

该报告并深入探索犯罪滥用、监管和创新等领域。在“对抗式AI”(adversarial AI)领域,研究人员有效掌握AI系统如何运作,并试图瞒过其他AI系统做出错误的分类或决定。特别是影像辨识系统经证实极易于受到这一类型的攻击。例如,研究人员可以巧妙地稍加改变图片或甚至是3D模型或标志,使其看起来与原始影像毫无区别,但仍瞒过AI系统将它们辨识为完全不同的对象。d38机器人网

其他例子还包括利用虚假影像让车子发生碰撞、突然停止,或触发自动武器发射等。当然,这些情况也可能发生在非机器学习的系统(人类决策者亦然),不过,使用非机器学习方法可以对所涉及的推论进行讯问、恢复和除错,而许多机器学习系统则无法做到这些。d38机器人网

在监管方面,该报告指出中国大陆“虽然在技术应用方面的法规不够完善,但却从另一方面推动了更快的实验和创新,包括对于数据的利用和AI技术等方面。”d38机器人网

公司和组织在违反规定时将面临的责任程度也包括在内。Nvidia的Lanfear说,虽然公司员工知道其道德原则以及如何遵守规定,但他坦承并不容易回答这个问题,因为“作为技术专家,这并不是我的核心思想。”对此,很多人都和Lanfear有同样的感受。因此,必须找到一些机制以确保目前的道德准则趋势不只是简单地转化为无意义的黑盒子作业。d38机器人网

如今,我们所拥有的AI技术可用于推动下一波基于高阶AI处理器与芯片的运算进展。但是,尽管半导体和运算产业不断挑战极限,业界最终将会决定该技术在现实世界的应用有多大——我们总是在看到无人驾驶汽车发生伤亡事件后,才能听见社会的抗议声浪。而关于AI道德标准的讨论与争议,将有助于我们思考技术该如何安全且有效地部署,以及最终可被社会接受和采纳。d38机器人网

来源:EETimes Taiwan,编译:Susan Hongd38机器人网

本文为机器人网原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。

您可能感兴趣的文章

  • 什么是第三代人工智能,其发展趋势是什么?

    人工智能从1956年第一次提出来,人工智能已经发展了63年多,最初的第一代人工智能是用计算机来解决问题,第二代是以AlphaGo为标志的深度学习,但是深度学习是基于真正的大数据,在目

  • 2020年,将是人工智能成为人类科技革命制高点的分水岭

    人工智能将是工业革命的核心技术之一,对于这个问题我说一下自己的理解。在未来如何你不能掌握核心科技,那么高科技领域的竞争主动权就不能掌握在自己手里。在很多领域都会受到

  • 未来5年中国人工智能基础架构规模的分析

    中国人工智能基础架构规模分析  2019年11月,IDC公布的《2019年H1中国AI基础架构市场调查报告》显示,2019年上半年中国AI基础架构市场销售额达8.37亿美元,同比增长541%。其中,

  • AI小编,其作品享有著作权吗?

    AI机器人不是人,它写出来的东西能享有著作权吗?自人工智能蓬勃兴起,开始出现在新闻写作、视频音乐创作等领域后,有关人工智能作品的著作权问题就一直在困扰着学界和实务界,争议颇

  • 美国发布人工智能八大战略

    《美国国家人工智能战略》确定人工智能技术研发是维持美国人工智能在全球领先地位的重中之重。美国如今在人工智能创新方面处于世界领先地位,很大程度上要归功于美国强大的研

  • 盘点2019年人工智能+安防技术变革与创新

    2019年在中国的AI+5G+机器人+自动驾驶的浪潮中,伴随着中美贸易战的强势又千转百回的音符,过的似乎格外的快。纵观2019年安防行业新技术变革,我们会发现今年安防行业涌现出新概

相关推荐

广告
推荐使用浏览器内置分享