IT之家的父老乡亲们,大家好,我是雨仔。从去年年中开始,一个名为“DeepFaceLive”的开源项目在 GitHub 上逐渐走红。该项目是一个 AI 实时换脸功能,用户使用后,在露脸直播时可以换成别人的脸蛋儿。看看下面这张动图,如果不说是换脸了,恐怕很多人会认为是马斯克本尊吧,效果可以说到了以假乱真的程度。
或许有人看到“DeepFaceLive”这个名字时,会联想到另一个换脸项目 ——DeepFaceLab。其实,两个项目同属一个团队开发,Live 正是在 Lab 的基础上,做了大量工程优化而来。相对于 Lab,Live 更注重实时换脸效果,并且上手难度更低。
实际上不只是国外,最近几年,AI 换脸在国内也具有相当的热度。许多爱整活儿的网友,在各大社交平台上,发表自己制作的换脸作品。比如之前在抖音风靡的《蚂蚁呀嘿》,就是通过换脸软件的驱动制作特效,让各路名流集体演唱洗脑歌曲。
比如在 B 站上搜索“AI 换脸”,映入眼帘的全是网友的恶搞视频。有把蔡徐坤的脸换成六老师的:唱、跳、rap、篮球~
有把关晓彤的脸换成徐锦江的:你 XX……
有把洪世贤的脸换成川普的:你好骚啊!
还有把巴啦啦小魔仙的脸换成李云龙的:二营长,老子的小魔杖呢?
天了噜,这些网友们的操作是真滴比艾莉“骚”,不仅会玩,还能玩出了花。虽然是换脸,又看着很离谱,但竟然毫无违和感。
“我是全英雄联盟最骚的骚猪……” 除此之外,AI 换脸还在影视剧中有所应用。此前有粉丝把杨幂的脸移植到了 94 版《射雕英雄传》中,取代了朱茵的黄蓉。一边是杨幂,另一边是朱茵,搞得雨仔难以选择。
还有一部名为《三千鸦杀》的电视剧,由于剧中某女演员爆出丑闻,制作方就通过换脸的手段进行了处理。就是这个效果吧,实属拉胯到家了,还不如雨仔的技术精进。
可是,要追溯起 AI 视频换脸最初兴起的原因,就不是很光彩了。起初,AI 换脸的应用仅限于平面,把一个人的头安在另一个人的身体上,就是 PS 操作。后来2017 年,就有人开始制作 AI 换脸的视频,最典型的便是“Deepfakes”,通过 AI 工具将女星的脸移植到其他视频中。不过,这并非普通的移植,而是将女星的脸移植到爱情动作片中。那年凭借《神奇女侠》火遍全球的盖尔・加朵,就被移花接木到情色演员身上。
随着这波起头,越来越多的女星被通过 AI 换脸,带入情色领域。艾玛・沃特森,安妮・海瑟薇,斯嘉丽・约翰逊…… 有一定名气的女星都相继中枪。一时间,网络上涌现出各种所谓的“明星私密录像带”的视频,逼真到根本无法分辨真假。这给女星们造成了极其恶劣的负面影响。最终在粉丝的谴责中,视频被删除,相关论坛也被封禁。
后来,相关技术的源代码都免费开放了,这意味着,每个人都能随意进行 AI 换脸操作。开放后,虽然也出现了“ZAO”这种低俗 App,但大多数人都是用在纯粹的恶搞上。要么恶搞家人,要么恶搞朋友,要么恶搞政客,玩得不亦乐乎。
虽然这么看下来,AI 换脸功能的存在确实具有有一定的价值,既能让网友的才华得到发挥,又能娱乐大众。但它存在的弊端,真的无法忽视。在雨仔看来,一旦 AI 换脸没有得到恰当的运用,就会导致三重危险。
首先,就像盖尔・加朵等女星的遭遇一样,会有女孩的清白被玷污。有不怀好意之人,可以将女孩的脸换到情色视频中,在网络上传播。在互联网环境中,人们通常只会相信自己看到的,不会在意背后的真相,这样被换脸的女孩,很容易陷入百口莫辩的局面。即便最后辟谣了,周围人的目光也还是会与之前不同。曾经有一个名为拉娜・阿尤布的印度女记者,因为揭露社会黑暗,遭到报复者 AI 换脸。不明真相的印度网友,纷纷辱骂她是个烂货,用尽粗鄙的言语。最终,拉娜不幸患上抑郁症,整个人生被毁于一旦。
其次,有别有用心之人,可以通过 AI 换脸改头换面,进而赚取流量和金钱。在俄乌战争爆发期间,一个名为“俄罗斯娜娜”的女博主在抖音突然蹿红。她自诩为纯种俄罗斯人,在直播中操着一口蹩脚的“俄式中文”带货,收益相当可观。然而几天后,她的账号遭到封禁,官方声明表示其“存在滥用平台道具、仿冒虚假人设”。所谓的俄罗斯长相,就是通过 AI 换脸实现的,她靠着这种手段借机牟利。
最后,有居心叵测之人,可以换脸为重要人物,造成不可预估的风险。试想一下,假设有人换脸成某国总统,制作政治类的视频,是不是有可能引发全球动荡?再试想一下,如果有人换脸成盖茨那种经济巨鳄,捏造关乎经济投资的视频,会不会导致许多人上当受骗?也许有人会觉得这种情况过于离谱,但世界近 80 亿人口,从来不缺少轻易被捏着走的人。之前就有人 AI 换脸成川普,发表了指责比利时环保政策的视频,险些导致两国爆发外交危机。
更何况,就算抛开上述的危险,肆意使用 AI 换脸并传播的行为,已经触及到了红线。我国民法典和行政法规中都有相应的规定,刑法中更是有一系列的罪名。只要给别人造成负面影响,就会得到正义的审判。
总的来说,AI 换脸属于科技的一种,既然是科技,难免就会带有双刃剑的属性。目前 AI 换脸的弊端已经暴露出来,轻则增加公众求证成本,重则扰乱社会秩序,会滋生很多负面影响。雨仔真切希望,大家在使用时只聚焦于利,不要触及弊。要知道,如果因 AI 换脸受到伤害的人变得越来越多,那么谁都无法保证,下一个受害者会不会是自己,会不会是自己的家人。
特别提醒
有网友表示收不到IT之家公众号的推送,这是因为现在微信规则改版了,请将“IT之家”公众号星标,并记得给文章点赞和在看,这样文章推送时系统才会优先推送给你。
暂无评论内容