人民网
人民网>>教育>>本网原创

人工智能背后的“黑镜”:如何防止技术滥用?

2018年07月28日14:12 | 来源:人民网-教育频道
小字号

若干年前,英剧《黑镜》中有这样的剧情:女主角借助人工智能技术,利用去世的丈夫生前的社交网络数据,模拟出机器人替代品。他的样貌甚至声音、记忆完全与女主的丈夫一模一样,女主角一直借虚拟物排遣思念亡夫之情。但随着人工智能技术的飞速发展,这样的事情还只会在科幻剧中出现吗?

就在今年的一月份,央视《创新中国》纪录片发布,其中最大的亮点在于:整部纪录片的配音是利用人工智能技术还原已逝的李易老师的声音而成。当李易老师熟悉的声音在耳边响起,《创新中国》的配音负责人、李易老师的学生感慨语音合成的效果让他“老是想掉眼泪”。

其实,不论是国内还是国外,通过语音合成技术模拟人声已经不再是难事。早在2017年就有科研团队表示其人工智能语音合成系几乎与真人声音无法区分。

过去20年间,全球众多国家与地区广泛参与到人工智能领域的基础性研究中,其中,中国与美国的论文产出位于全球的第一、二位。与世界水平并跑的背后是中国改革开放、高新技术不断追赶的身影。1986年,旨在提高自主创新能力的“高技术研究发展计划(863计划)”启动实施,人工智能产业即藏在自动化技术板块中。此后,人工智能技术研发在中国一直被置于科研的重点行列。

语音识别的发展进程大体上代表了人工智能的进程,它也因此成为了一个基准。语音合成技术的突破是人工智能发展的重要节点,它创造的全新应用程序能够为语言功能有问题的人带来福音,个人语音助理也能够依靠语音合成器为用户提供更人性化、个性化的服务。

虽然在改革开放的时代潮流里,中国的人工智能研发不断迈进。但是在全世界范围内,在使用人工智能技术时,如何避免技术被滥用以及防止人们隐私泄露一直是亟待解决的难题。

当足以以假乱真的虚拟合成声音可以欺骗听众,让他们以为是在“当事人”在讲话,人们从此无法简单地通过声音辨识人,这很可能导致人际信任危机。甚至某些别有用心的人可能篡改声音,用以误导和欺骗其他人。如果语音合成被居心不良的人用于犯罪,人们不该担忧吗?同时,不论是在媒体还是法律领域,录音都是重要的证据形态,然而根据当前语音合成发展水平来看,录音很有可能在未来会被拿来做伪证,这是对司法公正的挑战。因此,当科研机构在推动人工智能技术发展的同时,是否也该推动完善领域相关立法,或是同时研发出能够标记合成音频技术呢?

除此之外,若想要让语音识别系统更加准确,就必须学习用户上传的语音,而人的声纹同指纹一样独一无二,指纹和声音都是一种个人独有的密码,如果自己的声音数据被泄漏,信息安全将很难得到保障。因此,一面是人工智能系统的成熟完善离不开大量可学习信息的支撑,另一方面却是大量个人数据信息的让渡带来的隐私侵犯,隐私泄露与数据让渡之间的到底该如何划分?技术的奔马不该脱缰,在被广泛运用之前为之划定明确的使用界限,才能让人工智能研发最大程度获得可用数据的同时保护好国民信息安全。

当世人也快要同《黑镜》中的女主角一样,运用上语音合成等强人工智能产品时,也应警惕技术的双刃剑效应。(国际关系学院 蓝曦)

(责编:时宝韫(实习生)、熊旭)

分享让更多人看到

返回顶部