本文来自微信公众号：极客公园 （ID：geekpark），作者：Xin Ling，编辑：郑玄，原文标题：《INS 排名第一的网红餐厅：有美食照、有故事、有好评，只是没有这个餐厅》，题图来自：AI生成
近日，Instagram上一家名为Ethos的餐厅火了。这家餐厅在网页上的展示非常“高大上”：食物精美，用餐环境一流，还有名流大佬为你调酒。凭借这些展示，Ethos得到了成千上万个网友的点赞和追捧，在Instagram上吸引了7.2万名粉丝，成为奥斯汀排名第一的餐厅。
这看起来很正常，直到被a16z投资人贾斯汀·摩尔指出：这家“餐厅”根本不存在，Ethos在Instagram上发布的食客自拍、留言、厨师介绍以及餐厅介绍全部由AI生成。
目前尚不知道这场闹剧的始作俑者，也就无法探究其背后动机到底是出于一场社会实验、恶搞，还是存有更多的经济、利益目的。但这件事依然给公众敲响了警钟：从DeepFake色情门、到明星AI换脸、雷军骂人事件，以及刚刚结束的美国大选期间层出不穷的AI生成假图片、假新闻……
生成式AI快速发展的当下，AI造假正在以各种各样无法预料的形式占领社交媒体。相比于过去移花接木式的假新闻，AI生成的内容更加真实，普通人更加难以分辨，同时造假成本和门槛却更低。而要维持社交平台的真实性，需要社交平台做更多的工作。
一家不存在的餐厅
Ethos是Instagram上一家餐厅的账号。点开账号，里面的食物极具创意且十分诱人。芝士蛋糕上铺着流淌着新鲜蜂蜜的蜂巢，焦脆的洋葱圈外环印着滕瓦尔语撰写的“one ring to rule them all”，仿佛中土世界的至尊魔戒。还有各种奇妙造型的美食，比如把奶酪片和生菜扎成一袭抹胸裙，草莓做的糖果小屋，恐龙形态的“牛角包”。
图片来源：Ethos 餐厅 Instgram 账号
账号里不仅有精致而富有巧思的食物，用餐环境也很神奇。根据介绍，餐厅提供“泡澡寿司”服务，食客竟然可以一边泡澡一边吃水上漂来的寿司，而厨师会和食客一起泡在巨大的浴缸里，亲手制作每一件寿司。帖子下面还有对此的“真实”评论：“上周我们不得不缩短omakase时间，因为有人在寿司热水浴缸里弄脏了自己。管理人员很通情达理，还免费给我们送了一杯香槟。”
这家神奇的餐厅人脉还非常强大。有一篇帖子是关于亚马逊首席执行官杰夫·贝佐斯在酒吧提供鸡尾酒服务。图片介绍称因为餐厅厨师和贝佐斯恰好是朋友，所以来到这家餐厅食客，将有机会品尝到贝佐斯亲自调制的鸡尾酒。
Ethos凭借别具匠心的食物和服务，在Ins上逐渐积累起7.2w粉丝的关注。良好的用户留言与反馈，则让其成为奥斯汀排名第一的餐厅。
正当网友惊叹于这家餐厅之奇特时，硅谷风险投资公司Andreessen Horowitz的合伙人贾斯汀·摩尔（Justine Moore）看穿了真相，在社交媒体上发布了她的发现：这家名为Ethos的餐厅自称是一家位于德克萨斯州奥斯汀的高档餐厅，餐厅社交媒体帐户拥有数万名关注者，并且带有蓝色认证标记。然而，事实上，这家餐厅并不存在，网站上的所有信息都是由人工智能生成的。目前还不清楚是谁在运营Ethos账号。
图片来源：“X”截图
在相关平台上为餐厅美化图片、刷好评，这事并不新鲜。在生成式AI技术的时代到来之前，商家雇水军刷评论或者好评返现就能实现。如今随着技术升级，不仅p图、刷评论都省了，甚至“创造”一家餐厅可以直接通过AI完成。
生成式AI作为一项技术并没有好坏之分，在帮助我们更好地创作时会给人们带来乐趣，如果使用不当，则会使我们的创造能力得到退化，甚至造成恶劣的社会影响。
技术滥用，平台有责
AI技术的发展已经让我们的生活迈入到了“生成”时代。视频生成的头部创业公司Runway的CEO Cristóbal Valenzuela在最近的一封公开信中对此阐述道：“就像相机改变了我们捕捉现实的方式，AI也正在改变我们创造现实的方式。”
Cristóbal Valenzuela站在AI创作的角度，对未来的内容和媒体作出了美好的畅想：“模拟世界，让内容能够实时自我塑造，才能消解创造与分发之间的界限。这不仅是构建全新媒体景观的基础，也将从根本上重新定义媒体：它既是互动的、生成性的、个性化的，同时又是共享和普遍的。”
这里要厘清一个概念，Cristóbal Valenzuela所传达的，是说生成式AI的使用可以帮助人们更好地创作，而不是替代创作本身。
例如Runway一直在推动生成式AI创意的边界，其推出的Gen-3 Alpha，能够从简单的提示词生成高质量视频。这就把创作者从需要使用各种复杂的制作工具中解放出来，大大降低人们创作的门槛，真正释放人们讲好故事的创意能力。
因此，AI替代的是“生成”部分，而不是“创作”部分。如果意图在创作部分使用AI，会造成过分依赖AI，令人在创意上产生惰性，同时也抹杀了“人”在内容创作中自然带来的温度与情绪。
例如某外卖平台最近上线的新功能里，用户可以用图文形式发布自己购买过的外卖订单，帮助其他用户发现优质的商品和商家。发布过程中，平台提供了“AI帮你写”功能，让用户可以使用AI技术一键生成文案。这一功能，虽然看似降低了用户的创作门槛，但是在实际体验中，让创作过程完全消失，内容的社交真实感也因此大打折扣。
因此，平台需要在恰当的环节为人们提供AI技术能力的帮助，而不是粗暴地让AI帮助造假。
此外，对于那些出于某种目的，在平台上使用并传播AI造假内容的行为，平台也负有去伪存真的鉴别与清理责任。本文提到的这家不存在的餐厅只是一条漏网之鱼。在今年的美国大选期间，Facebook平台上虚假图片的传播产生了更恶劣的影响。
在刚刚结束的美国大选，Facebook、Instagram等社交媒体作为党派发表政见、吸引选民投票的重要平台，成为AI生成图片泛滥之地。极客公园最近发布的文章《比飓风更可怕的，是一张AI生成图片》中就提到，在碎片化的社交媒体平台，政客们随意使用AI生成的照片来宣传政见，攻击对手。感性的印象取代客观事实，“造谣一张嘴，辟谣跑断腿”的传播学原理在AI时代更猛烈地回响着。
美国Pew Research最近的一项调查发现，66%的美国人表示，他们“至少有时”会遇到被篡改或者完全虚构的内容；63%的人表示，捏造或更改的图像或视频会导致人们对于时事的“认知混乱”。
在AI生成内容的时代，内容的真实性和可信度受到了极大的挑战。对于这些社交平台来说，用户对平台的信任是其最大的资产。如果平台不引导大家往正确方向去使用，放纵虚假信息的传播，当用户有一天对平台失去信任的时候，平台将被反噬，变得毫无价值。
平台：已经行动，仍需努力
事实上，针对日益泛滥的AI内容，Meta这样的平台企业已经开始采取行动。
Meta的最高政策主管曾在今年二月表示，该公司将在未来几个月开始使用一套内置在文件中的隐形标记，检测和标记其他公司的人工智能服务生成的图像。
Meta全球事务总裁Nick Clegg在一篇博客文章中写道，公司将对发布在Facebook、Instagram和Threads服务上的任何带有标记的内容应用这些标签，以向用户表明，这些图像——在很多情况下类似于真实照片——实际上是数字创作。
Clegg表示，一旦新系统启动并运行，Meta将对OpenAI、微软、Adobe、Midtravel、Shutterstock和谷歌运营的服务上创建的图像进行同样的处理。
值得注意的是，该行动开始于今年二月份，这家名叫Ethos的餐厅一直在Instagram上火到了十月份才被揭破身份，而美国大选期间Facebook上的假图片也没有被第一时间识别清理。
Meta在上周刚刚发布的财报中多次强调，公司本季度社交“应用家族”部分的广告收入增长19%，主要归功于AI技术的应用。很显然，AI为Meta带来可观的收入，但是在为用户提供足够清朗的社交环境方面，Meta仍需努力。
本文来自微信公众号：极客公园 （ID：geekpark），作者：Xin Ling，编辑：郑玄