澎湃新闻采访人员 邵文
作为引领第四次科技革命的战略性技术 , 人工智能给社会建设和经济发展带来了重大而深远的影响 。但作为前沿创新技术 , 数据隐私、技术滥用等伴生安全问题也正给社会公共治理带来严峻挑战 , 其中围绕“深度伪造”的伦理和法律争议一直是公众高度关注的热点话题 。
随着深度合成技术不断演进迭代 , 制作一段高逼真度的虚假音视频成本愈加降低 , 但其却可以借助社交媒体等平台短时间风靡互联网 。对于这样一种技术 , 如果不进行规制 , 无疑将产生可怕的后果 。
在上海举行的2021世界人工智能大会上 , 一个能快速识破“AI换脸术”的产品——DeepReal深度伪造内容检测平台发布 。其能够通过研究深度伪造内容和真实内容的表征差异性辨识、不同生成途径的深度伪造内容一致性特征挖掘等问题 , 快速、精准地对多种格式与质量的图像进行真伪鉴别 。
文章插图
文章插图
这个检测平台由依托清华大学人工智能研究院设立的人工智能企业——北京瑞莱智慧科技有限公司(简称“RealAI”)研发 。
RealAI由清华大学人工智能研究院院长张钹院士、清华大学人工智能研究院基础理论研究中心主任朱军教授共同担任首席科学家 , 有人工智能安全平台RealSafe(针对AI系统的防火墙与杀毒软件);隐私保护计算平台RealSecure(通过打通数据孤岛 , 将计算环节移动到数据端 , 实现数据安全共享流通);深度合成内容检测平台DeepReal(快速、精准地对多种格式与质量的视频和图片进行真伪鉴别)等产品 。
RealAI副总裁唐家渝透露 , 针对深度伪造技术的防范 , RealAI目前已与工信部、公安部、国家互联网应急中心、工信安全中心、中国信通院、公安三所等多家机构展开深入的项目合作 。
“深度伪造” , 也被译作“深度造假” , 译自英语中的Deepfake , 其是计算机的“深度学习”(Deep learning)和“伪造”(Fake)的组合 , 出现于人工智能和机器学习技术时代 。通俗理解就是把图片和声音输入机器学习的算法 , 从而可以轻易地进行“面部操作”(Face manipulation)——把一个人的脸部轮廓和表情放置在其他任何一个人的脸上 , 同时利用对声音的逼真处理 , 制造出实为合成却看似极真的视频 。
2019年国内红极一时的换脸软件“ZAO”就是公众最为熟知的应用 , 用户只需上传一张照片 , 就能秒变“戏精” , 甚至还能与偶像同台飙戏 , 效果极其逼真 。不久前 , 短视频领域出现的“蚂蚁呀嘿”热潮 , 其基础也是深度伪造技术 。
凭借极强的娱乐性与传播性 , “深度伪造”技术一路走红 。但同时 , “低门槛、高效率、高质量”的特性 , 使其被大规模滥用于伪造身份、混淆视听 , 以实现网络欺诈、虚假宣传与操纵舆论等目的 。
7月9日 , 北京瑞莱智慧科技有限公司首席执行官田天在上海世界人工智能大会演讲时明确指出 , 人工智能产业正进入高质量发展阶段 , 以深度伪造为代表各类安全问题层出不穷 , 亟待解决 。
与传统图像视频处理技术相比 , 深度伪造技术具有“门槛低、效率高、质量好”的特点 , 所以它也被探索用于影视、医疗、虚拟现实等商业 , 比如在影视后期制作中 , 表情操纵、全脸替换等深度合成技术可以被用于影视剧本地化嘴型修改、虚拟IP打造等场景中 。
- 怎样查和天下香烟生产日期 如何查和天下香烟单包的生产日期
- 茶烟的危害大还是香烟的危害大 茶烟和香烟哪个危害大一点
- vr复刻绿水鬼,劳力士绿水鬼复刻表N厂和VR对比
- 复刻葡7和正品的区别,万国复刻zf葡7多少钱
- 顺气丸的功效与作用 健脾和胃功效
- 保和丸6大功效是什么 原来有这么多好处
- kn95与n95的区别 KN95和N95哪种防护效果更好
- 母鸡冬天下蛋吗
- 碳十三和碳十四的区别
- 阉鸡和没阉的鸡有什么区别