• <bdo id="6kgqc"><menu id="6kgqc"></menu></bdo>
    <tt id="6kgqc"></tt>
  • <table id="6kgqc"><xmp id="6kgqc"><input id="6kgqc"><label id="6kgqc"></label></input>

    特稿:超越“机器人三定律” 人工智能期待新伦理

    2019-03-19 09:09:45 来源: 新华社 作者: 杨骏

    新华社北京3月18日电特稿:超越“机器人三定律” 人工智能期待新伦理

    新华社记者杨骏

    人工智能的伦理原则近来备受关注。联合国教科文组织总干事阿祖莱在3月初举行的“推动人性化人工智能全球会议”上就表示,目前还没有?#35270;?#20110;所有人工智能开发和应用的国际伦理规范框架。

    对于科幻作家阿西莫夫上世纪设计、防止机器人失控的著名“机器人三定律?#20445;到?#26089;已认识到其局限性。“机器人三定律,历史上看贡献很大,但现在停留在三定律上,已?#23545;恫还弧!?#19987;家近日接受记者采访时这样说。

    新局面,呼吁伦理新原则

    科学家先前一直希望以最简单的办法,确保以机器人为代表的人工智能不给人类带来任何威胁。“机器人三定律”规定:机器人不能伤害人类;它们必须服从于人类;它们必须保护自己。后来还加入了“第零定律?#20445;?#26426;器人不得伤害人类整体,不得因不作为使人类整体受到伤害。

    “机器人不能伤害人,但机器人会以什么方式伤害到人?#31354;?#31181;伤害有多大?伤害可能以什么形式出现?什么时候可能发生?怎样避免?#31354;?#20123;问题在今天要么需要细化,要么需要有更具体的原则来防范,而不能停留在七八十年前的认识水平。”中国人工智能学会AI伦理专业委员会负责人、中国科学技术大学机器人实验室主任陈小平教授说。

    全球知名的艾伦人工智能研究所首席执行官埃齐奥尼两年前就在一次演讲中呼吁更新“机器人三定律”。他还提出,人工智能系统必须遵守?#35270;?#20110;其操作人员的所有法律条文;人工智能系统必须明确表示它不是人类;未经信息来源明确许可,人工智能系统不能保留或披露机密信息等。在当时,这些颇有新意的意见引发?#21040;?#28909;议。

    美国人工智能伦理领域知名学者、麻省理工学院教授泰格马克近年推广的“AI有益运动”提出,需有新伦理原则确保未来人工智能和人类的目标一致。这项活动曾获得霍金等众多全球顶级科学家以及知名IT企业支持。

    “人工智能在乘数效应的推动下会变得越来越强大,留给人类?#28304;?#30340;空间将越来越小。”泰格马克说。

    人为本,全球探路新伦理

    当前全球对人工智能新伦理的研究日趋活跃。不少人对人工智能心存芥蒂,多半来自其高速发展带来的未知性,“保护人类”成为首当其冲的关?#23567;?/span>

    “必须确保人工智能以人为本的发展方向。”阿祖莱呼吁。

    美国机器智能研究院奠基人尤德科夫?#22815;?#25552;出了“友好人工智能”的概念,认为“友善”从设计伊始就应?#21271;?#27880;入机器的智能系统中。

    新伦理原则不断提出,但突出以人为本的理念始终不变。百度公司创始人李彦宏在2018年中国国际大数据产业博览会上提出了“人工智能伦理四原则?#20445;?#39318;要原则就?#21069;?#20840;可控。

    美国电气和电子工程师协会规定,人工智能要优先考虑对人类和自然环境的?#20040;?#30340;最大化。

    新的伦理原则制定也正提上各国政府的议事日程。

    中国政府2017年7月发布《新一代人工智能发展规划》时就指出,建立人工智能法律法规、伦理规范和政策体系,形成人工智能安全评估和管控能力;2018年4月,?#35775;宋?#21592;会发布的文件《?#35775;?#20154;工智能》提出,需要考虑建立?#23454;?#30340;伦理?#22836;?#24459;框架,以便为技术创新提供法律保?#24076;?#20170;年2月11日,美国总统特朗普签署行政令,启动“美国人工智能倡议?#20445;?#35813;倡议的五大重点之一便是制定与伦理有关联的人工智能治理标准。

    存忧虑,跨界?#37319;?#26032;问题

    陈小平呼吁,为规避人工智能发展过程中的伦理道?#36335;?#38505;,人工智能学术界和产?#21040;紓?#20197;及伦理、哲学、法律等社会学科各界应参与原则制定并紧密合作。

    他认为,虽然从短期看还没有证据指向人工智能有重大风险,但依然存在隐私泄露、技术滥用?#20219;?#39064;。而无人驾驶、服务类机器人的伦理原则也须尽快?#25945;种?#23450;。

    美国电气和电子工程师协会还规定,为了解决过错问题,避免公众困惑,人工智能系统必须在程序层面具有可追责性,证明其为什么以特定方式运作。

    “就长期来看,不能等到出现?#25628;现?#30340;问题,再制定措施去防止。”陈小平认为,人工智能?#25512;?#20182;技术的特点不一样,很多人工智能技术具有自主性。例如自主机器人在现实社会中具有物理行动能力,如果没有?#23454;?#30340;防范措施,一旦出现?#29616;?#38382;题,可能危害较大。

    陈小平希望更多人参与人工智能伦理研究,尤其是科学家和工程师,因为恰恰他们最了解问题的根源、危险可能发生的方式、细节和相关技术进展,?#20843;?#20204;不说,外界只能去猜,难以得出正确的判断和?#23454;?#30340;应对措施”。

    他还提醒,在防范风险的同时应该注意平衡,避免因为过?#35748;?#21046;或使用不合?#23454;?#38477;?#22836;?#38505;方式造成遏制产业发展的副作用。(完)

    责任编辑: 桂楷东
    顶级大咖 更多>>

    马云力挺贵阳数博会:30...

    马云说:如果大家错过了三十年前广东、浙江的投资机遇,...

    潘云?#33258;?#22763;:AI2.0时代的...

    中国新一代AI的重点方向将从数据智能、群体智能、跨媒体...

    姚期智:中国AI不能满足...

    作为图灵奖唯一的华人获奖者,大名鼎鼎的“清华姚班”创...

    谭铁牛院士?#21512;?#29983;物学习...

    当前,一些面向特定任务的模式识别已取得突破?#36234;?#23637;,有...

    2017数博会:腾讯将携大...

    腾讯将连续第三年深度参与数博会,带?#21019;?#25968;据可视交互系...

    行业对话 更多>>

    2019年中关村国际前沿科...

    5月31日,由教育部科技司、中科院北京分院指导,中关村管...

    2025年,我国光伏发电将...

    5月30日,国家能源局发布了《关于2019年风电、光伏发电项...

    3D打印+?#24459;?#35753;人造骨在...

    骨缺损修复重建一直是国际临床难题。西北工业大学汪焰恩...

    5G发牌在即 中国竞争优势...

    此前,工业和信息化部副部长陈肇雄就曾表示,我国5G技术...

    人造声波黑?#27425;露?#39318;次测...

    据英国《科学新闻?#20998;?#21002;网站近日报道,以色列科学家在最...

    广东快乐十分app下载
  • <bdo id="6kgqc"><menu id="6kgqc"></menu></bdo>
    <tt id="6kgqc"></tt>
  • <table id="6kgqc"><xmp id="6kgqc"><input id="6kgqc"><label id="6kgqc"></label></input>
  • <bdo id="6kgqc"><menu id="6kgqc"></menu></bdo>
    <tt id="6kgqc"></tt>
  • <table id="6kgqc"><xmp id="6kgqc"><input id="6kgqc"><label id="6kgqc"></label></input>