AI视频造假“逆天”了

眼见为实？在AI时代，这句话该过时了。

AI正掀起一场“造假”新风暴。近日，一项名为Deep Live Cam的直播换脸项目火了，在Github上狂揽5.8k Star量，一跃成为Github热门榜单第一。

先看看它的品质，换脸成马斯克，360度打光都没有违和感。

有网友惊呼，太疯狂了，还以为这就是马斯克的游戏直播。

此外，AI生成的谷歌小姐姐还登上TED进行演讲，那逼真程度，一个字，绝！

曾经科幻片中的场景，如今渐成现实，黑镜来得太快，不得不让人担忧。

正如AI大牛Anderj Karpathy所言，要行善，未来的AI们都看着呢。

人人都是董宇辉的时代到来了

AI造假简直“逆天”。

这项名为Deep Live Cam的项目只需要一张图片，就能一键进行实时直播换脸。

Catena Labs首席产品官@jay_wooow第一时间赶到“吃瓜”前线。

他本人长这样：

但当他打开电脑摄像头，仅花5分钟安装了Deep Live Cam，他的面孔瞬间被替换成JD Vance：

英伦大帅哥休·格兰特（Hugh Grant）：

还有“蜥蜴人”扎克伯格（Zuckerburg））：

以及帅到老的乔治·克鲁尼（George Clooney）：

无论是做鬼脸、挑眉毛，左右摇头，还是切换各种刁钻角度，脸部都丝毫没崩，也没有时间延迟。

此外，它还提供实时预览功能，能够立即看到替换效果，同时支持实时人脸增强、处理同一图像或视频中的多张人脸等。这似乎意味着，以后我们参加在线会议、直播带货时可以用任何人的面孔示人。

因此有网友评论称，以后开会可以换成总公司CEO的脸了。

不过，也有不少网友担心，不法分子会趁机设计疯狂的骗局，假新闻也将更上一层楼。

Deep Live Cam开发者意识到潜在的滥用风险，承诺采取预防措施。该应用内置检查机制，避免处理裸露、暴力或战争等敏感内容。如有必要，他们也将会在输出内容上添加水印。

开发者还在Github上详细介绍了Deep Live Cam的安装运行攻略。感兴趣的朋友可以前往查看：

项目地址：https://github.com/hacksider/Deep-Live-Cam?tab=readme-ov-file

谷歌小姐姐真假难辨

与此同时，一位Google小姐姐开始刷爆社交媒体。只见一位带着谷歌工作证的小姐姐在TED中游刃有余地进行着演讲，时不时和现场观众互动，表现的非常自然。

但是，这位小姐姐并不是真人，而是由AI生成的。

这个消息让人一时难以接受，怎么说，现在的AI搞得视频已经不可信了，眼见不一定为真，视频确实可以P。

就连小细节也是拿捏得非常精准。不过从视频来看，工作牌还是有些瑕疵的，当人物晃动身体时，我们还是能看到白色部分的伪影。

虽然有些小缺点，但也不妨碍AI技术正变得越来越先进，难怪网友发出这样的感慨“现在的FLUX+Runway Gen-3 Alpha就是一个杀手组合。（上述视频就是这个组合生成的）”。

Kling版本是下面这样的：

来源https://x.com/jesselaunz/status/1822009842317558058

如果你觉得干巴巴的视频没有配音很难受，别急，配完音之后是这样子的：

来源：https://x.com/srkndyck/status/1822008566091248017

Luma Dream Machine效果是这样子的：

来源：https://x.com/Kyrannio/status/1821895489840955421

但是，细看的话，生成的手指还是有缺陷，出现了三手指。

据了解，上述视频都是在这张图的基础上生成的，图像生成用的是Flux+LoRA。

‍来源：https://www.linkedin.com/feed/update/urn:li:activity:7227710205487128576/

图片是一位名叫Leo Kadieff的小哥在领英上率先发出，他表示这些图片没有经过放大或其他处理，是Flux+LoRA的原始输出。

小哥已经在庆祝关于这张图片的帖子已经在X上炸锅了。

回想三年前，图片生成还停留在牛油果座椅，现在已经能生成真假难辨的人物图片了。

图源：https://x.com/javilopen/status/1821883326375825609

不仅能生成人物视频，Flux+Gen 3这个组合生成的动物世界也让人真假难辨。

在视频生成如此爆火的今天，就算你有一双火眼金睛，可能也会面临一个真假难辨的困境。

那些AI造假惹出的乱子

Deepfake自诞生起就伴随着巨大的争议，甚至搞出了不少乱子。

例如，利用AI搞“黄色”，侵犯他人隐私和肖像权。

今年年初时，一组AI换脸生成的霉霉（泰勒·斯威夫特）不雅照在社交平台上疯传，甚至惊动了美国白宫，发言人让·皮埃尔（Karine Jean-Pierre）表示：“我们对此类虚假图像的流传感到担忧。”

‍

再如，AI换脸技术让社交媒体充斥着假新闻。

今年的Met Gala红毯上，凯蒂・佩里和蕾哈娜明明未现身，但AI生成的红毯照满天飞，如果不细看很难找出破绽。（以下照片均为AI生成）

‍

还有“失踪”几个月的凯特王妃突然现身，“真假难辨”的图片和视频引得全世界瓜民搬着板凳来“找茬”。

‍

AI诈骗的案例更是比比皆是。

今年1月份，一家跨国公司成了deepfake诈骗的目标，其香港员工被骗了2亿港元。

这名员工受邀参加总部首席财务官发起的“多人视频会议”，并按照要求先后将2亿港元分15次转到5个账户内。得知受骗后，他才发现，那场会议中除了他自己，其他与会人员全部是经过“AI换脸”和“AI换声”的诈骗团队。

AI诈骗猖狂的程度，连巴菲特都坐不住了。他在2024年度股东大会上表示，“基于深度伪造技术带来的AI欺诈投资可能将会成为一个‘不断增长的行业’”。

或许以后，大家都不能再相信视频通话，或者仅通过照片来确认身份，如果好朋友借钱，最保险的方式将是亲自见面。

参考链接：

https://x.com/jesselaunz/status/1822009842317558058

https://x.com/tonyzhu1984/status/1822036026661224945

https://amp.cnn.com/cnn/2024/05/16/tech/arup-deepfake-scam-loss-hong-kong-intl-hnk