原标题:欧盟发布人工智能道德准则值得信赖的AI要满足这7大条件……
欧盟委员会4月8日发布人工智能道德准则,以提升人们对人工智能产业的信任欧盟委员会同时宣布啟动人工智能伦理准则的试行阶段,邀请工商企业、研究机构和政府机构对该准则进行测试
该准则由欧盟人工智能高级别专家组起草,列出了“可信赖人工智能”的7个关键条件分别是:
1.人的能动性和监督:人工智能系统应通过支持人的能动性和基本权利以实现公平社会,而不是减少、限制或错误地指导人类自治
2.稳健性和安全性:值得信赖的人工智能要求算法足够安全、可靠和稳健,以处理人工智能系統所有生命周期阶段的错误或不一致
3.隐私和数据管理:公民应该完全控制自己的数据,同时与之相关的数据不会被用来伤害或歧视他们
4.透明度:应确保人工智能系统的可追溯性。
5.多样性、非歧视性和公平性:人工智能系统应考虑人类能力、技能和要求的总体范围并确保可接近性。
6.社会和环境福祉:应采用人工智能系统来促进积极的社会变革增强可持续性和生态责任。
7.问责:应建立机制确保对人工智能系统及其成果负责和问责。
欧盟将“人工智能”定义为“显示智能行为的系统”它可以分析环境,并行使一定的自主权来执行任务
根据官方解释,“可信赖的人工智能”有两个必要的组成部分:一是应尊重基本人权、规章制度、核心原则及价值观;二是应在技术上咹全可靠避免因技术不足而造成无意的伤害。举例来说如果人工智能在未来诊断出一个人患有某种病症,欧盟的准则可以确保系统不會做出基于患者种族或性别的偏见诊断也不会无视人类医生的反对意见,患者可以自行选择获得对诊断结果的解释
欧盟数字经济和社會专员玛利亚·加布里尔表示,算法做出的任何决定都必须经过验证和解释。当保险公司的系统拒绝了一次索赔后,客户应当能详细地知晓緣由加布里尔还强调,还需要确保人工智能系统的公平如果招聘系统使用的算法是由一家仅雇用男性员工的公司数据生成的,其算法僦可能会筛除女性应聘者“这样带有偏见的数据输入将会带来伦理困境”。
对于这份准则欧委会副主席兼欧盟单一数字市场战略副总裁安德鲁斯·安西普表示:“符合伦理标准的人工智能将带来双赢,可以成为欧洲的竞争优势,欧洲可以成为人们信任的、以人为本的人工智能领导者。”
欧盟此举也受到一些质疑。非营利组织“算法观察”联合创始人马蒂亚斯·斯皮尔坎普认为,尽管制定准则是一个好主意,但准则围绕的核心——“可信赖人工智能”这一概念的定义尚不明确且目前还不清楚未来的监管如何实施;还有业内人士担心,准则過分细化会使许多公司尤其是中小型企业难以操作;此外参与了准则起草工作的德国美因茨大学哲学教授托马斯·梅辛格对于欧盟没有禁止使用人工智能开发武器表示批评。
(综合人民日报、澎湃新闻相关报道)
来源:综合人民日报、澎湃新闻相关报道,先进制造业公众號(ID:amdaily)推荐阅读转载请注明,如涉及作品版权问题请联系我们删除或做相关处理!本文编辑:微明