2020年度全球十大人工智能治理事件出炉，你关注过哪些?

原标题：2020年度全球十大人工智能治理事件出炉，你关注过哪些?

新一代人工智能技术在全球蓬勃兴起,为数字经济发展注入新动能,深刻改变着社会生产与生活方式。与此同时,如何在技术变革浪潮中主动治理、有效治理,发展负责任的人工智能,成为全球共同的时代议题。2021年1月18日,旷视人工智能治理研究院携手权威研究机构人民智库联合发布《2020年度全球十大人工智能治理事件》,回顾并分析了过去一年中最具理论价值、实践价值、新闻价值、以及研究价值的人工智能大事,希望以此推动多方对话、多元治理。

此次评选,经综合各方面资料、数据、人民论坛10万+网友票选、及知名专家们的意见,最终得出2020年度全球十大人工智能治理事件。这些事件既反映了人工智能治理领域的实践探索和前沿趋势,也反映出公众对引导人工智能向善,通过新一代信息技术的良性发展增进人类福祉、改善民生的热切期待。公众可登录人民论坛网《2020年度全球十大人工智能治理事件》的专题页面,阅读十大事件详情、了解专家观点。

四大维度看十大事件,热点事件引发冷静思考

此次评选,主要依据人工智能与公众福祉、人工智能与公平正义、人工智能政府(企业)治理、人工智能系统安全性与数据隐私安全等四个主要维度进行筛选。每个事件的得票率也真实的反映出公众对这类问题的关切程度。

技术的发展是为人类社会带来幸福感的提升还是更多担忧,是人工智能与公众福祉维度需要衡量的标准。一方面,人工智能造福弱势群体,真正为老人和青少年送去关爱,比如“人工智能技术预警独居老人水表以及校园暴力行为(排名第5,得票率49.69%)”;另一方面,人工智能技术在军事等领域的应用也扩大了人们对技术的忧虑(排名第10,得票率48.22%)。

在人工智能与公平正义维度中,我们看到2020年的典型事件为“人工智能算法下一些外卖骑手挑战交通规则,‘助手’可能变‘杀手’(排名第1,得票率51.2%)”。这一事件引发了人们对于人与系统关系、工作效率与人文关怀的深度思考。同时,我们也看到在人机共处的时代,对公平和正义的评判正在面临越来越复杂的局面,比如即使是技术犯罪仍要惩罚人(排名第9,得票率48.75%),但即使是人生成了算法,人工智能生成的作品也将判机器拥有著作权(排名第3,得票率49.78%)。

在人工智能政府(企业)治理维度中,可以看到全球范围内各国都试图通过法律法规的完善来引导人工智能的发展方向,并探求技术进步与社会稳定的平衡方式。比如“欧美、韩国相继出台人工智能治理新规,严格限制、甚至禁用相关人工智能技术在某些场景的发展和应用(排名第4,得票率49.73%)”。与此同时,国内外的头部企业也都依据自身对科技伦理的理解,做出了企业的尝试。比如“美国科技巨头依据自身道德判断,加强企业自律及对人工智能技术的监管(排名第6,得票率:49.55%)”。

人工智能系统安全性与数据隐私安全维度中,技术的突破性进展经常令人兴奋,但应用技术过程中产生的系统性风险却往往出人意料。如“人工智能可以翻译大脑想法将大脑信号转化为文本数据,‘读懂意识’让隐私无处遁藏(排名第2,得票率:50.09%)”、“人工智能技术突破现有边界,具备‘自主意识’,可实现独立研发、自我修复等功能(排名第8,得票率:48.75%)”、“自动驾驶服务驶上快车道,“无人车”行驶背后的权责归属引关注(排名第7,得票率:48.89%)”等,技术的边界与人类的利益,仍处在长期博弈的过程中。

边发展边治理中,企业应兼备“望远镜”与“显微镜”

面对人工智能技术的飞速发展,专家指出,与互联网时代的“先发展,后治理”模式不同,人工智能具有更大的能量去改变我们生活的方方面面,必须采用“边发展,边治理”的新模式。这一过程中,旷视作为企业人工智能治理的务实推动者,认为科技企业应该担任更加积极的角色。

旷视首席发展官、旷视 人工智能治理研究院院长徐云程表示,在技术发展过程中,企业经常会遇到三个挑战:一是大众对于人工智能的技术和产品效用存在严重的信息不对称,很容易产生负面认知。二是人工智能伦理问题向企业可执行行动转换过程,需要典型的交叉学科能力,这对企业来说是巨大考验。三是目前许多新产生的问题还没有得到人们的普遍重视,更缺少专门的深度研究,造成了问题远远多于方法的局面。这也是旷视成立人工智能治理研究院的初衷,希望产学界联手聚焦这些难点、痛点,用深度调研和实证研究的方式,寻找各方认可的共识。

因此,徐云程认为,在企业内部落实人工智能治理需要一手拿着“望远镜”,一手拿着“显微镜”。“望远镜”帮助企业看到技术演进的过去与未来,在思考问题时能够捕捉中外文化与思维方式的差异,在解决问题时能够广泛运用各个学科的综合知识。而“显微镜”是指,有些问题在当前社会发展中更具紧迫性,需要企业用“显微镜”将这些紧迫的问题加以放大,仔细研究,厘清问题中盘根错节的原由,快速形成解决的机制或共识,为人工智能技术的发展方向和社会矛盾的解决之道积累宝贵的经验财富。

这是旷视第二次盘点前一年的全球十大人工智能治理事件。在评选过程中,旷视对这些事件背后体现的治理趋势和折射出的社会问题进行综合分析,不仅将为旷视人工智能治理研究院新一年的研究课题找准方向,也卷入专家在内的社会各界人士,进而呼吁更多人参与到人工智能治理的行动中来,用可持续发展的技术共建可持续发展的社会。

人工智能治理,与身处人工智能时代的我们每个人息息相关。欢迎大家登陆人民论坛网《2020年度全球十大人工智能治理事件》的专题页面留言,分享你对十大事件的看法,为人工智能发展建言献策!