推特反Deepfake策略能否揭下人们换上的“假面”

络石快报 · 2019-11-14

✅北京风火轮车行,推特反Deepfake策略能否揭下人们换上的“假面”-络石快报_推特反Deepfake策略能否揭下人们换上的“假面”

鉴于立法总是落后于现实,在类似于De免费下载伴奏的网站epfake事件中,由处于第一线的企业制定规则加以约束,确实很有必要。

  中国的“双十一”狂欢刚刚落幕,大洋彼岸的社交媒体巨头——推特又吸引了来自科技圈的关注度。

  11月12日,推特正式发布首个反Deepfake(换脸神器)策略草案。该公司表示,如果Deepfake内容威胁到某人的人身安全或可能造成严重伤害,他们会将该内容从推特上删除。目前,推特已开始就此项草案向公众征集意见。

  可能中国人对Deepfake不太了解,但提起前段时间引发争议的某款换脸软件,大家一定不会陌生。而这款换脸软件就借鉴了Deepfake的原理。

  Deepfake是个新词,它实际上是个组合词,即“深度学习”和“假”的组合。顾名思义,作为一种人工智能基础的人物图像合成技术,它可以通过机器深度学习,将现有的图像和视频组合并叠加成新的图像和视频。这些内容看起来就像真的一样,但从来没有发生过。

  比如,在一个场景或新闻事件中,通过Deepfake把某个人加进去,使他说一些话或者做一些动作。

  在互联网上,类似Deepfake的内容实际上早已有之。比如,各种PS作品、各种剪辑作品,一些色情网站上的换脸内容,以及上次引发争议的实时换脸软件。它们在本质上还属于“恶搞”或“娱乐”,负面影响虽然也有,但是因其并不难识别,恶果总归有限。

  而Deepfake真正的危害在于,如果这种技术大行其道,它有可能会颠覆人类千年来所形成的某些“朴素真理”,比如“眼见为实”。当真相被轻易混淆,尤其是当这些真相涉及某些重要的人物、场景、事件时,可以想象,将会造成多大的混乱。

  比如,几个月前,美国民主党议员南希佩洛西的一段演讲视频在Facebook上疯传。视频中佩洛西的语速被降到了原版的75%左右,同时音调也被人为调高,阴阳怪气,宛如醉酒一般,产生了很恶劣的影响。

  但由于其被定义为恶搞视频,当时Facebook拒绝将之下架。然而,逼真度能够欺骗过大多数观众,甚至专家、亲人的恶搞视频,到底还算不算恶搞视频呢?

  假设恐怖分子以Deepfake制造出假的新闻事件传到网上,以现在的社交网络传播速度,很可能会在还未被识别出的情况下,就已经引发某些敏感地区的种族仇杀或宗教仇杀了。

  技术当然是无罪的,但当技术进步有可能超出人类的把握能力,有可能对人类生活造成威胁的时候,对技术应用加以防范和管控却也是必要的。

  实际上,很多国家已经充分认识到这一点。比如,在2018年的世界人工智能大会上,中国国家主席习近平曾在贺信中指出,在把握好新一代人工智能所带来之发展机遇的同时,要“处理好人工智能在法律、安全、就业、道德伦理和政府治理等方面提出的新课题”。

  在社会治理中,技术进步与立法能够齐头并进当然是最理想状态,但鉴于立法的慎重性,现实中立法落后于技术进步却是常态。在这种情况下,在类似于Deepfake事件中,由处于第一线的企业制定规则加以约束,确实很有必要。

  如今,社交巨头推特已经走出了第一步,相信未来各大科技巨头都会有所跟进,而中国的互联网企业也不妨随时保持高度关注。毕竟,技术的“双刃刀”效应是不分国界的。

  □信海光(专栏作者)

  编辑:李冰冰  校对:王心

责任编辑:张玉洁 SF107

文章推荐:

快递小哥拄拐杖送货大家送他暖暖的关心

第二届巴黎和平论坛闭幕

美国10月份预算赤字扩大至1345亿美元

印尼警方确认棉兰警察局自杀式炸弹袭击者身份

生态环境部:推动环境科技成果转化落地接通“最后一公里”

阿里巴巴披露赴港招股书:天猫和淘宝收入占比超六成