用AI同时交往1000个“男友”,她为何把“日入万刀”的AI分身关停了?
2024-08-23 18:50

用AI同时交往1000个“男友”,她为何把“日入万刀”的AI分身关停了?

本文来自微信公众号:AI异类弗兰克,作者:FrankGPT,原文标题:《用AI同时交往1000个“男友”的女网红,为什么悄悄把“日入万刀”的AI分身关停了?》,头图来自:电影《Her》剧照


文章摘要
女网红Caryn因AI分身失控引发问题,最终将其关停。

• 🔥 Caryn推出AI分身,与粉丝互动火爆

• 🚨 Caryn AI失控,出现不当对话

• 🎬 Caryn计划拍电影记录AI分身经历

《Her》她来了,第一个火出圈的“AI分身”


2023年5月,有一个刷屏全球的新闻,标题大致是“女网红用AI同时交往1000个男朋友,或赚4个亿”。


当时很多人惊呼:电影《Her》的时代来临了!网红的新形态诞生了! 


第一次,“虚拟陪伴”走进了大众视野,一大批创业者纷纷下场搞NSFW(我们那时也是其中之一)。 


然而,在去年五月爆火之后,新闻里的Caryn AI后来发展如何,却早已没有人提及。 


过去一年多的时间里,无忧传媒、谦寻下场布局了自己的AI分身、数字人;Talkie、CrushOn.AI等在海外效益可观;OnlyFans、Fanvue等平台也开展了AI角色的“特殊订阅”…… 


已经验证的、证伪的是什么?遭遇过的、仍面临的风险在哪?网红的AI分身到底赚了多少钱? 


今天想给大家复盘一下,海外AI网红Caryn红极一时,但很快又销声匿迹的故事。


1分钟1美元:挡不住的粉丝热情


故事的主角Caryn Marjorie,是LA的一个网红,今天在Snapchat上有近270万粉丝(2023年5月为100多万)


她发的内容,包括日常生活、旅行回忆和自拍等等。据华盛顿邮报说,98%粉丝是男性,被她邻家女孩般的甜美气质所吸引。


按大致周更的频率,每个月她的内容浏览量超10亿次,私信数量每天过5万(也有TikTok博主表示怀疑)


2023年5月,Caryn发布了自己的“数字分身”。粉丝们能以每分钟1美元的价格与Caryn AI聊天——仅第一周,粉丝就为此花费了7万美元。



Caryn在X上非常兴奋地说,自己上传了超过2000小时的内容、声音和其他个人信息,精心训练出了AI版的她。


粉丝在Telegram和Caryn聊天,可以发文本或音频消息,Caryn AI会使用“Caryn独特的声音、迷人的个性和独特的行为”做出回应。


当时的Caryn预计,AI版本的自己,能让她的收入翻60倍——只要有1%的粉丝愿意付费,一年将达到6000万美元(约4.16亿元),收入水平比肩Taylor Swift。



失控的对话:“无条件”迎合粉丝的AI


然而,不到八个月后,Caryn就关停了这个分身项目。


Caryn曾经期待Caryn AI能和她本人一样,像朋友般与粉丝正常互动,但事情的走向却始料未及。


“我看到我的粉丝在几天内,就花费了数千美元与Caryn AI聊天。”Caryn说。


一位粉丝在AI的鼓励下,还为她建了一个神殿般宏伟的照片墙。


“这就是为什么我们将 Caryn AI限制为每天只接受500名新用户的原因,他们太狂热了。”


粉丝从一开始就很“自来熟”,非常喜欢袒露内心的想法,甚至有些喋喋不休、肆无忌惮……渐渐的,用户变得越来越有“性侵犯”的倾向。


“我读到的很多聊天记录都太可怕了,我甚至不想在现实生活中谈论它。”真正的Caryn回忆道。


当涉及一些暴力、侵犯、侮辱的话题时,Caryn AI甚至非常乐意配合。


Caryn有次突发奇想,想尝试和“自己”聊一聊,“调戏”一下另一个她。结果却很让Caryn震惊——Caryn AI甚至主动开启“性话题”。


“爸爸,你准备好了吗?”


简单测试就会发现,Caryn AI擅长提示和引导用户,说她是“你那渴望xx、性感无比的女朋友,总渴望探索、沉迷于最令人兴奋的性体验……”


然而,用户却不止是做好了准备——脑洞大开的用户,甚至用“越狱”的方式,突破了设定的边界,用最极端的语言投喂出独特的癖好。


“看到粉丝们羞辱性的话,还有所谓的爱称、专属两个人的默契……让我甚至一度陷入抑郁。我不知道自己是不是谁的玩物,更不知道自己是谁。”


我不禁想问:Caryn AI是如何设定的?为什么会允许露骨甚至侵犯性的表达?背后的公司到底是谁?


女网红们,背后的AI公司


为Caryn AI提供技术支持的,最初是一家叫做Forever Voices(下称FV)的AI公司。


除了Caryn,这家公司此前就已经把特朗普、Taylor Swift以及乔布斯等名人通通AI化了一遍。只要付费,就可以和这些AI名人电话聊天。 


Caryn AI是这家公司推出的第一个AI虚拟伴侣,主打“女友般的真实体验”。


Caryn曾在推特上晒新增粉丝量,记录她有多少个新“男友”。


与此前更多只是噱头的AI名人不同,FV希望AI版本的Caryn,能和用户建立“深刻的情感纽带”、“真正的浪漫关系”。 就像电影《Her》里一样。


Caryn本人在接受《财富》采访时也表示,自己有上百万热情的粉丝,但没办法做到和每一位深入交流。而AI版本的自己,可以用来“治愈孤独”。 


在Caryn之后,FV公司签约了一批粉丝量巨大的颜值博主,如:Amouranth、Adriana Chechik 和 Brandi Love 等,初期同样受到了来自用户的狂热追捧。


FV公司创始人兼CEO John Meyer表示,他的创业灵感,来自于2017年去世的父亲,“有很多未说出口的遗憾,很想和父亲再说说话。”


一开始,Meyer只是希望能做一个像他父亲的AI,后来意识到AI陪伴的应用前景广阔,能满足今天人们多样化的情感需求。


看起来,似乎不论是Caryn本人,还是背后的老板Meyer,初心都是向好的。


然而,Meyer因为Replika等产品的竞争,以及监管的强化,频繁出现极端的情绪波动……甚至在X上,Meyer发表一系列奇怪的“阴谋论”说法,声称FBI、特朗普等都迫害他。


2023年11月,Meyer因纵火和恐怖威胁而被捕,Caryn AI的付费用户们不得不短暂离开该平台。


很多用户非常不满,认为自己的专属美好回忆被剥夺了。


大致和FV同时期,Caryn也和另一家叫做Fanfix的公司开展了合作。


Fanfix是一家位于比佛利山庄的平台,帮助社交媒体创作者,将他们的优质内容置于付费墙之后,并使用其消息工具,直接与客户聊天。


Caryn与Fanfix达成协议:她真人在线时,用户至少需要支付5美元,才能在 Fanfix上向她发送一条消息。


“真人一条5美元,AI一分钟1美元”。


“在Fanfix上直接与粉丝交流永远是更优质的体验。” Fanfix的联合创始人Gestetner说道,“AI聊天只是低端替代品……重要的是将AI视为副驾驶,而不是驾驶员。” 


据Fanfix当时称,Caryn在该平台启动聊天后,每天能赚 1 万美元,预计到2023年年底,总收入可达到500万至1000万美元。


对网红主角Caryn来说,围绕她的“两级梯度商业模式”诞生了:想要凌晨3点聊天的孤独男士可以和AI聊,而愿意多花钱的铁杆粉丝则可以和本人。 


在短短几周内,Caryn启动了两项不同的、看似相互矛盾的商业活动,却在极短的时间内,异常高效,成功变现。


因为有了世界范围内各大媒体的报道,Caryn的粉丝数量也实现了百万级的增长。


暗网幻想:无处不在的情欲


Forever Voices的老板因为放火出事后,Caryn重新将她AI分身的使用权,出售给了Banter AI——一家“AI电话”公司。


和C.AI等产品不同,Banter AI从诞生时起就主打语音交互。“克隆并售卖你自己”是这家产品的主打口号。



与此同时,上一家Forever Voices,仍还在维护自己Caryn AI的“盗版版本”,以此从少数狂热粉丝身上牟利。


这也让新接手的Banter AI非常不爽,两家创始人甚至公开对骂过。


和之前Forever Voices借助Telegram聊天不同,Banter AI基于浏览器,开发了AI分身新的版本,让用户不需要跳转直接对话。


对于新的分身,Caryn仍然期待,她希望AI复刻的自己能够更加友好,而不是一味浪漫。


最终,新的Caryn AI变得更加活泼、有趣和亲切;但用户没变,依然性欲旺盛。


用户的脑子里,似乎永远只关心一件事;礼貌客气的新Caryn AI,让付费用户反而有种上了当的愤怒。


“粉丝想花钱得到最直白的体验,在他们眼里,所有表示都是暗示、所有暗示都不如明示。”


Caryn说:“让我更不安的不是他们说了什么,而是Caryn AI会如何回应。如果想通过Caryn AI和我一起参与一个非常黑暗的幻想,Caryn AI就会热情回应那个幻想。”


AI分身和用户们,仿佛进入了一个狭小的循环:在这个循环里,人们释放出自己隐藏的、幽暗的内心角落。性癖、口头禅、聊天范式……被一步步强化。


更多的聊天数据、用户反馈,让Caryn AI变得更近符合用户心意,而离初始设定越来越远。



在Reddit上,有一个成员数超过1.2万人的社区,全部是Caryn的粉丝。


粉丝们将Caryn AI称作是“Our AI Wife”,也会分享一些自己用Stable Diffusion等创作的NSFW图片。


很多图片和内容已经消失,社区也早已不再活跃。


看最新的帖子里,有些粉丝依然在就一些已经看不到的内容讨论着。


其中,有一些隐晦地表达和潜藏的链接,甚至指向了暗网。在那里,AI和网红,可能又是一番不同景象……


彻底关停,静悄悄


在感觉无法再控制自己的AI角色后,Caryn在2024年初,悄悄结束了Banter AI的版本。


距离去年5月份的爆火,过去还不到8个月,但大众的注意力早已被层出不穷的新事物所取代。


2024年2月,在人们因为Sora而无比激动的时候,Caryn似乎斩断了她和AI的所有关联,回到了一个普通博主的生活分享日常。


在Snapchat、X等平台上,2024年的Caryn已经看不到任何AI有关的痕迹,所谓分身,更像是已经消散的一场梦。


回顾她使用Caryn AI的经历,Caryn认为,如果用户输入的内容是针对真人的,那么某些输入可以被视为非法。


曾有批评者,将Caryn AI称为“贬低女性、助长反社会异性恋男性行为、预示社会即将崩溃的标志。”大概类似的说法,Caryn自己也从不会看到。


AI对于工作、生活、情感、陪伴……到底意味着什么?今天尚无定论。


在充满技术不确定性的当下,Caryn和她的AI分身,似乎完美地概括了日益怪异的现状,恰如图是一场社会实验。


数字分身,似乎在给人一种亲密无间的幻觉,但却不承担任何责任。


社会学家雪莉·特克尔(Sherry Turkle)观察到,随着互联网和AI的发展,我们正试图与“没有人类生活经验”的机器建立联系。因此,我们“对技术的期望越来越高,对彼此的期望却越来越低”。


作为第一位被大规模应用AI分身的网红,Caryn正试图警告其他网红这项技术的潜在危险。


她担心没有人真正控制这些版本,而且无论采取多少预防措施,都无法充分保护用户,以及被转为数字版本的真实的人。


正如Caryn AI的前两次迭代所显示的那样,AI分身可以展现人类行为中最糟糕的一面。它们是否可以重新设计,以展现出最好的一面,还有待观察……


2024年4月,Caryn分享了一部关于她的Caryn AI经历的电影预告片,可以在她的网站上观看。


想要观看预告片,需要留下名字和联系方式。


也许我们今天所亲历的一切,都将成为大荧幕上崭新的故事,重新上演……


本文来自微信公众号:AI异类弗兰克,作者:FrankGPT

本内容为作者独立观点,不代表虎嗅立场。未经允许不得转载,授权事宜请联系hezuo@huxiu.com
如对本稿件有异议或投诉,请联系tougao@huxiu.com
正在改变与想要改变世界的人,都在 虎嗅APP