金沙js娱乐场官方网站_金沙澳门官网手机版
做最好的网站

曾毅:多方人工智能伦理准则须做好协同

2020-05-07 作者:生命科学   |   浏览(116)

4月,欧盟委员会发布人工智能伦理准则,并宣布同时启动该准则的试行阶段,并邀请企业、研究机构等对这一准则进行测试。人工智能发展的数十年间,经历了多次起起伏伏。到今天,人们对深度学习、大数据、通用人工智能带来的成果期许有加。但仍然需要有人察觉,这些技术中黑暗的一面,在4月20日由中国社会科学院科学技术和社会研究中心举办的人工智能的社会、伦理与未来研究研讨会上,美国技术哲学家卡尔米切姆引用了莎士比亚在《威尼斯商人》中的一句话:闪光之物,未必是金。以提醒人们发展人工智能技术时,可能面对的伦理挑战。值得庆幸的是,人工智能的研究者已经开始与人文领域深度融合。2018年开始,我们在中国科学院大学就面向人工智能和计算机科学的研究生开设了《人工智能哲学与伦理》课程。据我了解,今年北京大学、浙江大学、西安交通大学等高校也将逐步开始设置人工智能伦理相关的课程。中国科学院自动化研究所研究员曾毅在报告时指出。曾毅还指出,迄今为止,目前由国家地区的政府、非政府组织及研究机构和产业颁布的人工智能伦理准则提案已经超过40个。但不同的准则涉及到的议题视角各不相同。曾毅告诉《中国科学报》,其研究团队对这些提案进行梳理,但没有任何一个提案可以覆盖其他提案超过65%的议题。曾毅研究团队主要从事类脑人工智能的研究。对人工智能研究长远发展的思考让他感到对人工智能风险、安全与伦理的思考急需进行算法化、模型化落地,从而确保人工智能向对社会有益的方向发展。技术发展会对伦理准则提出新的要求。由于文化、地域、领域的差异,大一统的准则提案不但很难做到,而且没有必要。因此,不同国家、组织之间伦理准则如何协同很重要,曾毅还指出,这些准则如何进行技术落地、经受社会检验,再不断迭代完善,是未来要面临的更有意义的问题。在当前对人工智能伦理的讨论中,还有一些问题亟待解决。曾毅在报告中提到,由于设计缺陷,现阶段的很多人工智能模型,更关心如何获得最大的计算奖励,但忽略了对环境和社会造成的潜在隐患。以强化学习模型为例,模型中会设计一个奖励函数,以帮助模型在与环境交互过程中通过获得尽可能多的奖赏进行学习,但如果奖励函数设置不合理,为了完成任务,很可能会忽略掉对周围环境和其他智能体的影响,并产生不可逆的后果。目前绝大多数的人工智能没有自我的核心,不能够区分自我和他人。而人类的涉身经验、对外部事物的揣测,是建立在自我经验的基础之上的。曾毅告诉记者。对自我的计算建模也是当前人工智能领域的一个关键研究问题,具有一定程度自我感知能力的人工智能模型将从本质上更利于自主学习、理解人类的价值观。

5月25日,北京智源人工智能研究院联合北京大学、清华大学等单位发布《人工智能北京共识》,提出了各个参与方应遵循的有益于人类命运共同体的15条原则。

其中研发方面,要服从人类的整体利益,设计上要合乎伦理;使用方面要避免误用和滥用,确保利益相关者对其权益所受影响有充分的知情与同意;治理方面,对人工智能部分替代人类工作保持包容和谨慎态度。共识的发布,为规范和引领人工智能健康发展提供了“北京方案”。

为降低人工智能发展过程中可能存在的技术风险和伦理隐患,北京智源人工智能研究院成立人工智能伦理与安全研究中心,中国科学院自动化研究所研究员曾毅任研究中心主任。研究中心将围绕人工智能伦理与安全的理论探索、算法模型、系统平台、行业应用等开展一系列研究。对此,新京报记者对曾毅进行了专访。

金沙js娱乐场官方网站 1

在《人工智能北京共识》发布仪式上,曾毅介绍了人工智能伦理与安全研究中心的主要研究内容。新京报记者 吴宁 摄

人工智能系统还不能准确了解人类价值观

新京报:研究人工智能伦理与安全是否具有紧迫性?

曾毅:作为颠覆性科技的人工智能,其机遇与挑战并存。可以预见,随着新一代人工智能的发展,预测、评估伴随技术应用所带来的社会影响并尽可能减小、避免相关风险尤为重要。

近年来,随着人工智能研究与产业发展,一些相关伦理与社会问题逐渐凸显,例如人工智能带来的安全风险、隐私、算法歧视、行业冲击、失业、收入分配差异扩大、责任分担、监管难题以及对人类道德伦理价值的冲击等。

因此,我国急需开展人工智能伦理与安全的研究,将人工智能风险、安全、伦理的思考模型化、算法化、系统化,融合技术与社会等多方的努力,确保人工智能向对人类和自然有益的方向发展。

新京报:其中,伦理研究出于何种考虑?

曾毅:人工智能伦理准则是各个国家、组织进行对话的重要议题。目前,人工智能系统不能真正理解人类的价值观。

举例说,你需要很快从A点跑到B点,如果中途有个孩子过来,你一定会绕开他。但是机器为了更快达到目标,可能会做出相反的选择,对环境中的人类等造成不可逆的负面影响。

金沙js娱乐场官方网站,所以,如何使机器自主学习人类价值观、避免风险,是人工智能伦理研究中的重要主题,这叫做价值观校准,是人工智能研究中的圣杯,也是人工智能最大的挑战之一,现在还没有一台机器能真正基于理解实现自主学习人类的伦理道德。

我们的研究中心将开展符合人类伦理道德的智能自主学习模型研究,实现人工智能行为与人类价值观的校准,并在模拟环境与真实场景中进行验证。例如通过机器的自我建模、自我经验的获取与思维揣测,实现避免对环境中其他智能体产生不可逆的伤害。

改变一个像素,机器可能将飞机认成狗

新京报:如何看待人工智能发展中的安全风险?

曾毅:人工智能的发展过程中已出现一些潜在的风险,例如一张飞机的图片,如果改变其中关键的一个像素,人还是觉得图片中的是飞机。但目前很多深度学习模型可能会颠覆认知,认为那是一只狗。这说明现在机器学习算法的自适应性还不能应对实时变化的环境、噪声以及恶意攻击。

本文由金沙js娱乐场官方网站发布于生命科学,转载请注明出处:曾毅:多方人工智能伦理准则须做好协同

关键词: