出品｜虎嗅ESG组
作者｜袁加息
头图｜视觉中国
本文是#ESG进步观察#系列第031篇文章
本次观察关键词：平台治理，合规风险
挑战可能真的来了。平台开始按不住AIGC了。
最近两天，先是真的孙燕姿发文“原谅”了AI孙燕姿，然后AI又在美国闹出一个大新闻。美国当地时间5月22日，有一幅“五角大楼附近发生爆炸”的图在社交网站上传播。一时间全网震动，甚至美股还为此小跌了一下。
图：依照（目前还不成型的）AI传播道德，这里只放一张被打过叉的原图。
事件经过一天时间的发酵，现在我们知道：图片是AI合成的。假消息的源头之一是推特上一个叫作“Bloomberg Feed”的账号，原推的附文煞有介事地说：“华盛顿特区五角大楼建筑附近发生巨大爆炸。——初步报道”。
这次的假新闻风波，意味着推特的内容监管没能兜住AI内容风险。而且这不是个案，随着AI内容生态的萌发，平台的监管问题正逐一显露出来。
推特的难题
“五角大楼附近发生爆炸”事件在爆发的几小时内，就经历了几轮发酵。
根据各方考证，假消息的源头不止一个，最早的发布时间可以追溯到当地时间早8点42分。最原始的图在上午10点多被一些蓝标账号捡起来，配上“五角大楼附近发生爆炸”之类的文案再度发布。其中，前面那张图中的发布者@Bloomberg Feed看起来最为可信，因为名字中含有Bloomberg（彭博社），并且获得了推特的蓝标认证。但其实该账号和彭博社毫无关系。
消息发出来之后，好几条原推都被数百万人看到，被其他的蓝标认证用户转发，甚至被印度和俄罗斯带着推特“金标”的正规媒体账号。
早上十点多，美国股市也发生了小幅下跌。很多分析人士认为，这是该图片引发的市场恐慌。
图：当地时间5月22日的美国道琼斯工业平均指数行情。在10点之后发生了小幅下跌。
不过很快，网民掀起了对该消息真实性的讨论。首先，虽然很多最早发出来的推都说这是在五角大楼附近，但是照片上的楼并不是五角大楼。另外，照片里面路灯是歪的，并且栅栏与周围景物的遮挡关系也不很写实。
图：AI伪造图的细部。虽然像素不高，但还是看得出物体之间的穿插、遮挡关系非常不自然。
到了10点40多，图片引起了官方的注意。当地的消防机构首先辟谣说，当地没有爆炸发生。之后陆续又有别的组织出面辟谣，公众才确认这则消息为假消息，并且照片是AI生成的。
尘埃落定之后，一些网络舆论的矛头开始指向推特的蓝标政策。在马斯克收购推特之后，改变了蓝标用户的认证方式。在此之前，蓝标是免费授予经过身份认证的机构和名人的。去年11月，马斯克把蓝标政策改成了“付费+认证”的形式。但是，新的认证方式十分的不透明，被解读为“拿钱买认证”。本次“五角大楼爆炸”假新闻事件也进一步印证了，马斯克掌管下的推特，认证制度存在重大缺陷。
不过，这真的只是认证的问题吗？
国内“AI内容监管第一枪”？
舆论对本次“五角大楼爆炸”假新闻事件的问题意识，盯住的是推特的“蓝标认证”制度，因为“蓝标”意味着账号是由真实、负责任的人或组织运营的。这实际上的诉求在于“AI的使用者不能脱责”，这是目前针对AIGC（人工智能生成内容）监管的一种典型策略。
同样，像微信朋友圈、微博这种即时分享类型的平台让每个人都成了新闻资讯的发布者。那么，每个发布者为自己发布的信息负责，这一治理原则在这些平台强化AI内容治理时也被延续了下来。
在“可追责”的考虑之上，一些平台开始考虑给AI内容加标识，以防止观者混淆AI生成的内容与真实内容。5月9日，抖音祭出了被称为国内“AI内容监管第一枪”的举措，要求创作者给AI视频内容打上“AI生成”的水印。
图：抖音规定的“AI生成”水印样式。图片截取自《抖音关于人工智能生成内容标识的水印与元数据规范》
但眼下，随着AI内容生态的演化，我们可以得出一些新的判断：说抖音的举动是“AI内容监管第一枪”，可能夸大了其行业意义。
AI水印政策与抖音自身的属性有关。抖音的内容本质上是一个博眼球、争流量的注意力生意，所以抖音理应更关注为了争取流量而不顾道德原则的AI内容。把AI内容在明显的位置标出，或许能减少类似推特这次事件，有人把AI虚构的图当作真实图像来传播，造成意料之外的麻烦。
类似地，抖音平台要阻止用户利用AI生成的劣质内容来冲流量。所以抖音禁止了单纯读文案带货的虚拟人直播。这些虚拟人主播可以永不停歇地一直播，并且可以被低成本复制，同时用多个账号播出，但是它在视觉、文案、表达上都十分粗制滥造。这种内容对于抖音的问题在于，用大规模低质量内容冲流量，冲淡平台上的优质内容。
抖音的一些AIGC治理举措，其出发点还是抖音平台自身的一些特征。抖音对AIGC的问题意识不一定是普适的。
监管重点的分化
在逻辑不同的内容平台，例如B站这种看重用户创意的平台，AI内容治理又是另一个样貌。
3月30日，B站董事长陈睿在中国网络视听大会上放出豪言，说B站是目前AIGC内容质量最高、最丰富的平台。果然不久之后，“AI孙燕姿”就在B站火了。
纯从内容上说，“AI孙燕姿”是比较原始形态的AIUGC，即“AI辅助用户生成内容”。它是AI内容的另一种样态，甚至可能是未来AI内容的主流样态。和抖音对“用AI虚构内容博眼球”的担忧不同，AIUGC内容拼的依然是创意，这是UGC/PUGC生态的延续。只不过，正如“AI孙燕姿”所暴露出的问题，AIUGC目前暴露出了知识产权保护方面的重大缺陷。
在“AI孙燕姿”这件事上，B站不曾站出来表达自己的监管立场。倒是孙燕姿本人被炸出来，对“AI孙燕姿”表达了一种“无奈地宽恕”态度。孙燕姿的原话是：“我的粉丝们已正式改换门庭，接受我就是一名冷门歌手的事实，而我的AI角色成为了目前的顶流。我想说的是，你跟一个每几分钟就推出一张新专辑的人（虎嗅注：指AI孙燕姿）还有什么好争的。”
虽然孙燕姿个人很慷慨大度，但是AIGC的知识产权争议仍在。“AI孙燕姿”爆火之后，有人又提起了“数字水印”技术。简单讲，这种技术是在图像、声音、数据等载体上加标记，这些标记是人看不到、听不出的，但可以用技术手段识别，并且在原始版权素材被改动之后，依然可以识别出其中的版权标记。这种技术颇受看好，但其规模性的落地尚需时日。
但总之，B站这类重创意的内容平台，或许能在AIGC的某些元问题上压过那些重流量的内容平台。正如Pinterest——知名的创意分享平台、“设计师之友”——的首席执行官Bill Ready近期在评论AIGC时多次强调：AI内容应该是人们生活的“调味品”（additive）而非“瘾品”（addictive）。如果内容平台的核心算法原本就是让用户上瘾，那么AIGC会在这种算法中把人性的缺陷进一步放大。
Pinterest自身在推荐算法上，坚持探索如何推送具有创意、灵感、个性化价值的内容。这使得Pinterest对低质量的AIGC有一定的抵抗力；同时富有新意的AIUGC艺术作品开始在Pinterest上涌现。
图：Pinterest上一位AI辅助创作者的作品目录。他把自己利用Midjourney生成出来的近百个主题（如“科幻场景”“通灵旅程”“政治画”“圣经风格”等）分门别类，整理成库。| 图片来源：Pinterest @Vellectrum
所以在讨论AIGC平台监管的时候，也不能忽视AIGC反过来对平台的改造，以及潜在的相互成就的机会。
在较短的时间尺度上，AI内容给平台带来一些监管上的挑战，并且不同运营逻辑的内容平台，其AI治理重点还有分化之势。而在远期，AI内容或许反过来决定平台的发展前景。这个远期趋势，或许才是内容平台面临的终极挑战。
感谢您的阅读。ESG从业者或对此有兴趣的研究者、投资者，欢迎扫描下面二维码，申请加入我们社群。