全球十大AI治理事件引争议:AI与人该如何共存?
高科技的发展成熟程度,除了取决于技术的高度和产品的丰富,行业的标准和规则建立,也是重要标志。
工业革命的成熟,不仅仅因为经历了蒸汽机、内燃机到电动机的升级与变迁,建立了发达的汽车产业和带给人们便利的交通行业,更重要的标志是,各国建立了成熟的交通法规、司机持证驾驶的制度。也正是这些上层建筑的宏伟,见证了工业革命的辉煌。
信息革命也不例外。如果没有TCPIP等协议,没有Wintel联盟的软硬件标准,没有连接软硬件的七层协议,以及一系列互联网法律和制度的出台,全球互联网信息高速公路不会如此发达。
作为第四次科技浪潮的重要组成部分,人工智能不但显著提高了生产效率,也让人类生活变得更加舒便捷。但同时,人工智能技术门槛较高,发展尚处于初级阶段,高速发展背后的成长烦恼也日益凸显。比如,人工智能与人的矛盾,隐私与安全问题,受到越来越多的关注,担忧和质疑声音越发强烈。
没有规矩不成方圆,人工智能的高速赛道更需要安全护栏和完善规则,软硬件双重保驾护航。如何快速发现并解决这些问题,成为了人工智能时代的首要命题。
作为一家行业领先的人工智能公司,旷视在人工智能治理方面作出了自己的表率,引领行业正向发展。2019年7月旷视首发人工智能应用准则,并于同年正式成立人工智能治理研究院,期望各界对AI事件有理性的关注,并要针对事件背后问题做深度的研究,通过社会各界建设性的讨论,才能最终将AI向善这件事付诸于实际的行动。旷视联合创始人、CEO印奇用 “理性的关注,深度的研究,建设性的讨论,坚持不懈的行动”四句话,表达了旷视倡导AI治理的决心。2020年伊始,旷视人工智能治理研究院首先回顾全球较有代表性的十大AI治理事件,希望就这些事件背后折射的深层次问题与社会各界展开讨论,一起探寻解决之道。
【十大AI热点事件背后隐私与安全】
在旷视人工智能治理研究院发布的全球十大AI治理事件中,有一半事件和隐私、安全相关。
比如饱受争议的某AI换脸应用中,就设置了隐私陷阱。在用户协议中提及使用者的肖像权表述为“全球范围内免费、不可撤、永久,可转授权”,这相当于所有人的肖像权可以被全球免费使用;而一旦侵犯到明星肖像权,该AI换脸应用则把责任推到了用户身上。
浙理工郭冰教授状告杭州野生动物世界,则成为中国人脸识别第一案,同样引发不少关注。郭冰教授已经购买了年卡,可以凭指纹不限次入园。但当园区升级了人脸识别系统,就取消了指纹系统,强制只能刷脸入园,但郭兵认为人脸信息是个人敏感信息,拒绝被采集无法入园,公园又无法办理退卡退费,才一纸诉状将其告上法庭。
2019年11月,浙江一小学戴监控头环的视频也引发不少争议。人们同样担忧黑科技滥用是否侵犯到学生隐私,甚至担心学生产生逆反心理,与初衷适得其反。
人工智能可以识指纹、听人话、看人脸、辨人意。没有哪个时代的技术可以像人工智能一样,如此贴近人类。在AI产业链条中,包含语音、图像、人脸、文本等包含隐私的大数据,往往被比喻成金矿,而深度学习正如同采矿业一样,从中提纯高可靠的算法和模型,为各行各业赋能。
如果把手机比喻为人们随身携带的信息保险箱库,那么3D人脸识别技术,让人脸成为这个保险箱的一把随身携带钥匙。人脸信息泄露,无异于丢失了这把最重要的钥匙。这样看,人们对于隐私泄露的隐忧绝非空穴来风。
除了隐私,人们还担心人工智能技术的可靠性和安全性,这类案件也出现在此次发布的全球十大AI治理事件中。
自动驾驶引发的车祸已经不是新闻,这样的案例在2019年同样不少见。2019年3月,50岁的杰里米·贝伦·班纳驾驶电动车以每小时109公里的速度与一辆牵引拖车相撞而身亡,当时他正在使用车辆的自动驾驶系统。
该汽车厂商曾多次表示,其自动驾驶系统是为了辅助司机,他们必须时刻注意并准备好接管车辆。但事实上,不少车主就是看中车辆的“自动驾驶”功能。目前中国和美国规定了自动驾驶的级别,它确实可以成为电动汽车厂商的宣传噱头,但要人们完全放心使用自动驾驶技术,还要假以时日。
【人工智能时代的AI鸿沟】
互联网的使命是解决广泛存在的信息鸿沟问题;但人工智能时代同样存在人们对于AI认知鸿沟。这种误区至少有两个:一个是AI能力认知误区,另一个是风险认识误区。
很多人对于人工智能的认知停留在机器人层面,认为有形状能走路的才是人工智能,这显然受到科幻大片的影响。要知道电影作为一门视觉艺术,一定要将人工智能具象为人们看得懂的类人形状,才能表现出人工智能的强悍。结果很多受到科幻片影响的人,误认为人工智能什么都能干。
另一些人看过现实中机器人的表现,对比电影中的机器人简直是天壤之别一无是处。但他们并不知道阿尔法狗多次打败了世界围棋冠军,AI也在竞技游戏中横扫人类顶尖选手。2019年,斯坦福大学AI算法识别性取向准确率超过人类。人工智能的伟大,不仅仅在于能走、能跑,关键是有个智慧的大脑。
面对人工智能的风险,同样存在严重两极化:美国加州2019年通过议案,决定禁止警方在执法记录仪上使用面部识别技术,2020年这条议案将成为法律。但也有更多企业对风险持视而不见。
【结束语】
旷视人工智能治理研究院发布的全球十大AI治理事件,无异于对2019年的全景回顾,从中人们既发现了问题,也在追寻解决之道。这应该是2019年最有干货的年终盘点了。
工业革命的鼎盛,带来了效率规模和速度,也带来了问题和风险,比如环境破坏和资源浪费,就需要协同推动经济发展和环境保护;网络时代,带宽的增长,带来了更畅快的体验,也对安全性提出了更高的的要求;智能时代,人工智能已经成为万物互联的基础能力,但在大数据金矿面前,同样需要保护用户隐私和信息安全。
人工智能带给人们的新威胁除了隐私、安全还有工作机会。2019年,BBC基于剑桥大学研究者的数据体系,发布了关于未来最有可能被机器人所取代的365种职业。李开复还曾总结了一个“五秒准则”。五秒内,你能不能为工作中需要思考和决策的问题作出决定?如果能,你的工作就有很大可能性被人工智能替代。
互联网的本质是连接,其实人类社会本质也是人与人之间的连接,而这种连接正在智能时代发生潜移默化地变化。每天越来越多的AI客服模拟真人拨打骚扰电话,智能手机则使用同样的AI技术,模拟语音秘书对抗骚扰;传统社会人与人之间的直联方式,正在被插入一个个机器节点,这也许就是未来社会结构的常态。
未来,人工智能成为人类社会的连接点,还是人与人之间的断点?是让人与人之间的沟通更高效,还是让人与人更孤立?机器智能的互联会不会形成自我意识,甚至形成与人类社会的对抗?2019年,某跨国企业生产的智能音箱,甚至会劝人类自杀,这是算法bug,还是挑战机器伦理的底线,都值得人们深思。
现在,人工智能广泛应用各个领域,看得到的机器人只是小场景,更多时候是以人们看不到的软件、算法存在于网络的云端和终端。所以,人工智能的可怕往往被忽视,机器人已经可以无监督学习、可以战胜围棋冠军,人类学习知识要十余年甚至几十年,而机器只需要几个小时,有时甚至只有几分钟。
伦理即规范,人类在与大自然打交道中,形成了生态伦理;人与人之间数千年形成了社会伦理;未来,当人工智能会如同水电一样普及无处不在,人类也该对人工智能进行规范,形成人工智能伦理。
全球对于AI治理在不断作新的尝试,科技企业在创造技术的同时也在不断探索行业规范,谷歌的委员会尝试、微软的AI for good、腾讯的技术使用原则、旷视提出的AI应用准则,都在规范着现有AI力量,对于未来AI创造更大价值时,人类会需要更强有力的AI规范与共识。
小告示:【王冠雄频道】常年都参加美国CES国际消费电子展,1月5日-10日,我们都在拉斯维加斯,全程参加预展发布会、正式展会。对相关热点产品、趋势和企业进行采写、社交网络快评,今年特地增加了短视频播报。
王冠雄,新经济观察家、意见领袖,首个竖屏科技脱口秀雄辩·科技show主讲人、十大自媒体(见各大权威榜单)。曾在阿里巴巴、360、搜狗、蓝港等著名互联网公司负责相关营销工作,参与4次IPO,横跨行业主要领域。每日一篇深度文章+科技热点快评,发布于微信、微博、头条、百度,各大门户及科技博客、媒体社群、短视频等30+全部主流平台,覆盖400万中国核心商业、科技人群。为FT金融时报、福布斯等世界级媒体撰稿人,观点被媒体广泛转载引用,影响力极大。