超越“机器人三定律” 人工智能期待新伦理

2019-03-19 11:13:26 来源: 新华社 作者:

  2018年7月10日,在香港会展中心,全球首个获得“公民身份”的机器人索菲娅亮相主舞台。亚洲最大规模的科技峰会之一RISE科技峰会于7月9日至12日在香港会议展览中心举行。新华社发 王申 摄

  新华社北京3月19日电 人工智能的伦理原则近来备受关注。联合国教科文组织总干事阿祖莱在3月初举行的“推动人性化人工智能全球会议”上就表示,目前还没有适用于所有人工智能开发和应用的国际伦理规范框架。

  对于科幻作家阿西莫夫上世纪设计、防止机器人失控的著名“机器人三定律”,业界早已认识到其局限性。“机器人三定律,历史上看贡献很大,但现在停留在三定律上,已远远不够。”专家近日接受记者采访时这样说。

  新局面,呼吁伦理新原则

  科学家先前一直希望以最简单的办法,确保以机器人为代表的人工智能不给人类带来任何威胁。“机器人三定律”规定:机器人不能伤害人类;它们必须服从于人类;它们必须保护自己。后来还加入了“第零定律”:机器人不得伤害人类整体,不得因不作为使人类整体受到伤害。

  “机器人不能伤害人,但机器人会以什么方式伤害到人?这种伤害有多大?伤害可能以什么形式出现?什么时候可能发生?怎样避免?这些问题在今天要么需要细化,要么需要有更具体的原则来防范,而不能停留在七八十年前的认识水平。”中国人工智能学会AI伦理专业委员会负责人、中国科学技术大学机器人实验室主任陈小平教授说。

  全球知名的艾伦人工智能研究所首席执行官埃齐奥尼两年前就在一次演讲中呼吁更新“机器人三定律”。他还提出,人工智能系统必须遵守适用于其操作人员的所有法律条文;人工智能系统必须明确表示它不是人类;未经信息来源明确许可,人工智能系统不能保留或披露机密信息等。在当时,这些颇有新意的意见引发业界热议。

  美国人工智能伦理领域知名学者、麻省理工学院教授泰格马克近年推广的“AI有益运动”提出,需有新伦理原则确保未来人工智能和人类的目标一致。这项活动曾获得霍金等众多全球顶级科学家以及知名IT企业支持。

  “人工智能在乘数效应的推动下会变得越来越强大,留给人类试错的空间将越来越小。”泰格马克说。

  在北京举行的2017年世界机器人大会上展出的弹钢琴机器人。新华社记者李欣 摄

  人为本,全球探路新伦理

  当前全球对人工智能新伦理的研究日趋活跃。不少人对人工智能心存芥蒂,多半来自其高速发展带来的未知性,“保护人类”成为首要的关切。

  “必须确保人工智能以人为本的发展方向。”阿祖莱呼吁。

  美国机器智能研究院奠基人尤德科夫斯基提出了“友好人工智能”的概念,认为“友善”从设计伊始就应当被注入机器的智能系统中。

  新伦理原则不断提出,但突出以人为本的理念始终不变。百度公司创始人李彦宏在2018年中国国际大数据产业博览会上提出了“人工智能伦理四原则”,首要原则就是安全可控。

  美国电气和电子工程师协会规定,人工智能要优先考虑对人类和自然环境的好处的最大化。

  新的伦理原则制定也正提上各国政府的议事日程。

  中国政府2017年7月发布《新一代人工智能发展规划》时就指出,建立人工智能法律法规、伦理规范和政策体系,形成人工智能安全评估和管控能力;2018年4月,欧盟委员会发布的文件《欧盟人工智能》提出,需要考虑建立适当的伦理和法律框架,以便为技术创新提供法律保障;今年2月11日,美国总统特朗普签署行政令,启动“美国人工智能倡议”,该倡议的五大重点之一便是制定与伦理有关联的人工智能治理标准。

  存忧虑,跨界共商新问题

  陈小平呼吁,为规避人工智能发展过程中的伦理道德风险,人工智能学术界和产业界,以及伦理、哲学、法律等社会学科各界应参与原则制定并紧密合作。

  他认为,虽然从短期看还没有证据指向人工智能有重大风险,但依然存在隐私泄露、技术滥用等问题。而无人驾驶、服务类机器人的伦理原则也须尽快探讨制定。

  美国电气和电子工程师协会还规定,为了解决过错问题,避免公众困惑,人工智能系统必须在程序层面具有可追责性,证明其为什么以特定方式运作。

  “就长期来看,不能等到出现了严重的问题,再制定措施去防止。”陈小平认为,人工智能和其他技术的特点不一样,很多人工智能技术具有自主性。例如自主机器人在现实社会中具有物理行动能力,如果没有适当的防范措施,一旦出现严重问题,可能危害较大。

  陈小平希望更多人参与人工智能伦理研究,尤其是科学家和工程师,因为恰恰他们最了解问题的根源、危险可能发生的方式、细节和相关技术进展,“他们不说,外界只能去猜,难以得出正确的判断和适当的应对措施”。

  他还提醒,在防范风险的同时应该注意平衡,避免因为过度限制或使用不合适的降低风险方式造成遏制产业发展的副作用。

  (记者杨骏)

初审编辑:

责任编辑:admin

推荐阅读
  • 有知识、懂技术、会经营 新型职业农民在成长

    2019031906554284327.jpg

    今年全国两会期间,习近平总书记多次参加代表团审议,就乡村振兴、创新创业创造等发表重要讲话,引起热烈反响。闻铭说,今年1月份,太仓又增添了205名持证上岗的新型职业农民,其中63人为大学本科学历,142人为大专学历。[详细]

    03-19 08-03人民日报
  • 驻证监会纪检监察组:加强监督 打赢"反围猎"斗争

    调研了解到,证监会派出机构党委认真汲取赖小民案件以及证监会系统案件教训,以身边人身边事为镜鉴,深入开展以案促改工作。注重做好政治监督,严肃党内政治生活,确保上级决策部署落实落地,坚决防止基层党建随意化、平淡化、娱乐化、庸俗化。[详细]

    03-19 08-03人民网
  • 与唐诗PK很受伤?宋诗“句句出深思”追求向内思考

    QQ截图20190319082939.png

    在古代文学的众山头中,对于“没有比较就没有伤害”这句话,领悟很痛者,一定有宋诗。”  提起诗之经典,很多世人包括古典文学研究者,仿佛把大部分宠爱都自动给了唐诗,宋诗永远略逊一筹,地位难与唐诗相提并论。”  王永说,宋诗注定摆脱不了唐诗的影响,毕竟...[详细]

    03-19 08-03中国青年报
  • 让文化遗产“活”起来:建立与公众的“超级链接”

    在文物传播领域,3D数字动画技术,VR、AR等技术的运用,让中华优秀传统文化得以更广泛、更多样、更迅捷地传播开来。希望有更多更好的文化产品出现,让人们通过精妙的故事、立体的呈现、多元的互动,认识和了解更多的文物和文物故事,更好弘扬中华民族优秀的传统文化。[详细]

    03-19 08-03人民日报
  • 波音公司自行对MAX 客机做安全认证 美当局介入调查

    据外媒报道,5个月内波音737 MAX客机发生两起坠机事故,引发全球安全质疑。波音为追赶主要对手法国空客公司推出的新机款,急于完成认证,美国联邦航空局对此也草草通过审批。[详细]

    03-19 11-03中国新闻网
  • 法国要打造“女儿国”?巴黎关闭小学建女性城

    据《欧洲时报》报道,近日,法国位于巴黎6区Vaugirard街9号的小学即将关闭,校区将被打造成法国首座“女性城”。”  巴黎反歧视办公室主任比达尔表示,“反性侵的女性平权运动#MeToo席卷全球后,建立女性城是对女性争取平等权益的具体支持。[详细]

    03-19 11-03中国新闻网
相关新闻