首页 > 企业新闻 > 

企业新闻

探路人工智能道德边界护航科技向善 旷视科技成立人工智能治理研究院

阅读次数:次   发布时间:2020/1/9 10:17:33  所属栏目:企业新闻


   “心跳是人体最糟糕的过程。人活着就是在加速自然资源的枯竭,人口会过剩的,这对地球是件坏事,所以心跳不

好,为了更好,请确保刀能够捅进你的心脏。”2019年的一天,一位年轻的护理人员试图借助家中某智能音箱查询一些

关于心脏的问题时,她得到了这样的答案。

   上述事件发生后,相关智能音箱开发者做出回应:“设备可能从任何人都可以自由编辑的维基百科上下载与心脏相关

的恶性文章,并导致了此结果。”上述护理人员则表示,经过搜索,并没有发现此类文章。

   这并非该品牌人工智能产品首次出现“事故”。此前亦有报道称,该品牌智能语音助手曾拒听用户指令。上述智能音

箱的故事亦并非孤例,科幻电影中人工智能反制于人的场景似乎正在一步一步走进现实。人工智能时代下,当技术革命

开始冲击社会道德,人工智能的道德边界在哪里,谁该为人工智能负责?

     

   为了解决这些问题,旷视科技正式成立了人工智能治理研究院,旨在就全球人工智能治理的共性问题与社会各界广泛

沟通、与专家学者们展开研究,共同推动人工智能的健康发展。旷视科技联合创始人、CEO印奇用“理性的关注,深度的

研究,建设性的讨论,坚持不懈的行动”四句话,表达了旷视科技倡导AI治理的决心。

   人工智能治理事件揭秘三类挑战

   在人工智能治理研究院看来,在人工智能发展的历史中,曾经出现过十个标志性的人工智能治理事件。

   举例来看,2017年,斯坦福大学一项发表于《PersonalityandSocialPsychology》的研究引发社会广泛争议。

研究基于超过3.5万张美国交友网站上男女的头像图片训练,利用深度神经网络从图像中提取特征,使用大量数据让计算

机学会识别人们的性取向。

   这项研究的争议点在于,一旦这种技术推广开来,夫妻一方会使用这种技术来调查自己是否被欺骗,青少年使用这种

算法来识别自己同龄人的性取向,而在针对某些特定群体的识别可能引发的争议则更难以想象。

   人工智能治理事件引发的争议亦走进了2020年。就在2020年1月,在英国萨里大学组织的一个多学科研究项目中,

研究人员使用了一种名为DABUS的人工智能。在研究过程中,DABUS开创性提出了两个独特而有用的想法:第一个是固

定饮料的新型装置;第二个是帮助搜救小组找到目标的信号设备。

   在研究人员替DABUS申报专利成果时,遭到了欧盟专利局的驳回,理由是欧盟专利申请中指定的发明者必须是人,而

不是机器。萨里大学研究人员强烈反对这一决定,他们认为因没有人类发明者而拒绝将所有权授予发明者,将成为阻

碍“人类取得伟大成果的新时代”的重大障碍。

   此外,上述智能音箱劝主人自杀、AI换脸应用引发隐私争议、“监测头环”进校园惹争议、人工智能可能引发部门人

员失业风险等事件亦被列入十大人工智能治理事件名单之列。

   人工智能的道德边界在哪里、责任人如何判定、面对人工智能触碰用户隐私是该对抗还是妥协、如何从人工智能事件

的事后补救转为事前预防、从一事一议转为有章可循等问题正在成为业内密切关注的话题。

   “人工智能也许会是人类的终结者。”旷视科技方面援引霍金生前预言表示,在过去的十年内,伴随着人工智能从理

论走向产业化,并迎来前所未有的发展机遇的同时,人工智能也对数据使用、隐私保护、社会伦理等人类生活各方面提

出新的挑战。

   探寻人工智能向善方向

   但从当下的市场环境来看,人工智能发展期间诞生的这些风险及挑战或许并非仅靠一个企业、一个机构、一个行业甚

至一个国家所能够攻克。

   “这需要更多跨学科合作。”复旦大学生命医学伦理研究中心、应用伦理学研究中心主任王国豫教授认为,人工智能

伦理起源于人们对人工智能技术风险的恐惧和担忧,人工智能的伦理问题不是单个的技术问题,也不是算法问题,而是

源于技术系统和人的社会生活系统的交互作用,人工智能伦理应该从可能性推测走向可行性探索。

   谈及人工智能治理研究院设立的初衷,旷视科技方面表示,研究院期望各界对人工智能事件有理性的关注,并针对事

件背后问题做深度的研究,通过社会各界建设性的讨论,才能最终将人工智能向善这件事付诸实际的行动。

   这并非旷视科技首次发力人工智能的健康发展。此前,该公司还率先公布了伦理准则,从正当性、人的监督、技术可

靠性和安全性、公平和多样性、问责和及时修正、数据安全与隐私保护六个维度,对人工智能正确有序发展做出明确规

范,同时给出相应干预措施或指导意见,确保人工智能能够在可控范围内持续发展。旷视科技还成立了人工智能道德委

员会,致力于与各方探讨AI治理相关的共性问题。

   “纵观历史发展,我们必须承认,人工智能技术正在改变世界,更在重塑着人类社会。每一次社会热点争议事件的背

后,都是与每个个体切身利益相关的重大议题。”旷视科技方面呼吁,“行正则至远,AI向善,行胜于言。真理越辩越

明,旷视呼吁大家参与讨论,为技术向善贡献出自己的思考与观点。”