《人工智能罗马倡议》建议对AI监管，微软和IB

人工智能该如何使用，如何保证其安全、稳定和可靠？

面对新技术，梵蒂冈官员公布了促进人工智能伦理使用的原则，呼吁对人工智能的发展制定严格的道德标准。当地时间2月28日，微软、IBM两家科技公司签署了这份《人工智能伦理罗马倡议》（Rome Call for AI Ethics，下称“倡议”)。

罗马倡议提出了六项主要原则：透明度，包容性，责任感，公正性，可靠性，安全性和隐私性，倡议认为，技术应该“保护人们”，尤其是“弱势群体”。他们还敦促世界各地的决策者对人权有更高影响风险的先进技术创建新的监管形式，比如人脸识别技术。

倡议在开头的介绍中提到，“人工智能”（AI）正在给人类生活带来深刻变化，并将继续如此。人工智能在改善社会共存和个人福祉，增强人类能力，以及在实现或促进更有效地执行任务方面，具有巨大潜力。但是，这些并不是绝对的。人工智能还会影响执行这些任务的方式，以及我们感知现实和人性本身的方式，以至于它们还会影响我们的心理和人际习惯。因此，我们必须按照确保AI能在为整个“人类家庭”服务的标准下进行研究和生产，确保其会尊重每个成员和所有自然环境，并考虑到弱者的需求。

“AI是非常有前途的技术，它可以帮助我们让世界变得更加智能、更加健康、更加繁荣，”IBM副总裁John Kelly III在签署协议后表示，“但前提是它一开始就受到人类利益和价值观的影响。”

据John Kelly III表示，梵蒂冈提出的倡议源于一年多前教皇弗朗西斯( Pope Francis )对人工智能及其对社会影响的担忧。“他主要关心的是，这是不是人人都能得到的，还是会进一步分裂富人和无家可归者？”John Kelly III在接受采访时称，他还提到，梵蒂冈官员还担心 AI 会取代工作岗位。

梵蒂冈方面希望确保在未经个人同意的情况，公司不会将AI用作收集数据的手段，然后将这些数据用于商业或政治利益。最新的例子是，600多家执法机构和私人公司在使用面部识别公司Clearview AI开发的软件，该软件在人们不知情的情况下抓取面部数据。该公司的数据库能从各种在线站点提取30亿张图像。就在近日，Clearview AI遭遇重大数据泄露，完整客户名单在这次泄露中被盗，名单中的客户包括美国警方、执法机构和银行。

该倡议还提出，人类必须建立一种解释责任体制，基于AI的算法应向个人提供有关这些算法如何做出决策的信息，以确保没有偏见。

目前，微软和IBM成为首批签署倡议的科技公司。梵蒂冈方面希望在未来几个月内能够让AI伦理倡议的签署人数量继续增加。此外，他们还希望通过跟来自全球各地的大学展开合作，以此来推动更多的科学研究进入AI伦理指南领域。