现在的AI公司们,已经在把用户当“数据提款机”了
2024-08-13 23:50

现在的AI公司们,已经在把用户当“数据提款机”了

本文来自微信公众号:数字生命卡兹克,作者:数字生命卡兹克,头图来自:Midjourney

文章摘要
AI公司利用用户数据训练模型引发广泛争议。

• 😡 AI公司悄悄利用用户数据训练模型,引发用户愤怒。

• 🛡️ 用户反抗不透明的协议和隐私侵害,争取权益。

• 🌐 相关事件和争议在多个平台和国家引发广泛讨论。

最近,AI公司跟用户之间的冲突与矛盾,变得越来越多越来越大了。


因为一个大家可能从来不看的东西:用户协议


最近X(也就是以前的推特)和马斯克,就被这玩意,推上了风口浪尖。


原因是,X被发现“光明正大”地拿用户的帖子来训练Grok AI。


就是马斯克自己搞的那个大模型。



一些平台,拿用户的数据来训练自己的大模型,讲道理这是一件心照不宣的事情,没有谁能避免的。


但是一直以来,这都是一件悄悄的事情,大家也都是偷摸地打枪,从来不敢摆在台面上。


但是这一次,Grok和X,犯了众怒了。


他在没有任何公告、任何通知的情况下,偷偷地上线了一个协议,就是我要用你的帖子、你的数据来训练AI啦,而且这个条款,是默认选中状态,你是默认同意的。



入口隐藏的还极深,你要是不刻意地去找,基本不可能会发现。


最骚的是,你还只能用电脑的网页版才能关,你在手机上,直接找不到这玩意的入口,想关还关不了......


直到有用户偶然发现这事,给它爆了出来,这直接就把所有用户情绪点燃了,相关讨论的热度迅速飙升,直接在X上,破了千万浏览。



底下的评论,那是骂得要多难听有多难听。




评论只有两个事,要么骂,要么问怎么关闭。


因为你这玩意入口真的藏得太深了,我自己都点了半天。


它在:更多 ~ 设置和隐私 ~ 隐私和安全 ~ 数据分享和个性化 ~ Grok里面。



X绝逼是故意的。


热度越吵越高,没办法,把官方逼了出来,终于承认了一下。并且以官方的口吻,来告诉大家怎么关。



但是通篇读下来,就有一种感觉:给你们这帮子用户能关闭的入口,是给你们的赏赐你们知道吗?别的公司都不给你选项你懂吗?怎么给你们选项了,还在这逼逼赖赖。


最搞笑的是,最近你去Google一下“AI”+“Grok”,出现的不再是Grok的研发进度,而是这件事,是拿用户数据训练AI的争议。


官方承认的当天,不少媒体就迅速对这件事进行了报道。然后你要是往下继续翻,10条有7条是指导用户“如何避免被X用于AI训练”的教程,感觉大家都在疯狂给自己“打补丁”......



当然,X肯定不是第一个,只是他们侵犯的用户群体足够庞大,影响过于重大,这事才炒到比较高的热度。


而没有被大家所看到的,不再“尊重”用户的案例,有更多。


比如Meta,想用对个人数据管得比较严的欧洲用户的数据,拿来训模型。搞了个隐私修改,如果用户选择不同意该隐私权政策则应该主动停止使用 Facebook 和Instagram等产品,否则均为接受新政策。



宣布在2024年6月26日生效,然后发出去没几天,就在欧洲掀起了舆论风波,欧盟直接出手,紧急叫停。


国内的WPS,去年11月,也把心思打到用户的文档上。偷偷摸摸在协议里加了一条:我们将对您主动上传的文档材料,在采取脱敏处理后作为AI训练的基础材料使用。



然后被喷到紧急发公告道歉改协议。



还有前段时间闹得沸沸扬扬的番茄小说AI事件。2024年6~7月,陆续有番茄小说上面的作家收到AI补充协议,要把作品喂给AI,通知你签个条款。



作家圈子直接就炸穿了,中下层作者纷纷加入战斗,一些万粉作家,在书内更新章节,直接写了离开番茄的声明,声泪俱下。



最终,引起了巨量的舆论海啸,几天后,番茄上线解除相关条款的功能入口,此事才算告一段落。


以上的例子,都是被大规模爆出来后,且得以善终的例子。


你说大家抵制AI吗?其实在上述的例子中,大家一点都不抵制AI,X上的用户跟Grok聊得有来有回,WPS的用户还是很喜欢用WPS AI,还是有很多作者眼巴巴地期盼着番茄小说的AI润色功能。


大家抵制的从来不是AI,而是你不声不吭,夺我知识取我记忆的行为。


生成式AI发展到今天,互联网的普通数据已经快被挖掘殆尽。


各平台上的大量用户自己的内容,就成了放在面前,最大的宝藏。


这就像明明三体人也没打过来,一群“组织”自己在内斗,一个个疯狂的军备竞赛囤积粮食,他们把这世界上公开的粮食都囤完了,但是还是要更多,于是冲到我家来,抢我家的粮食。


五大三粗的老爷们有的是明抢,踹开你家的房门,跟你说你家的粮食全部上缴我征用了。


还有的是直接从你家厨房里偷摸地拉根运输管道,以后你有多少他偷你多少。直到有天你发现不对,你想找他理论,他说:


管子就在你自己家里啊,你不想给你拔了就行,又不是不让你拔。


这才是大家愤怒的源泉。


对于创作者尤其是写手画师来说,自己的作品不仅是心血,更是赖以生存的饭碗。


你冲人家里去,抢人家粮食,不给钱就算了,还直接把人饭碗砸了。


前不久,还有一件事,不过不是AI圈的,但是我觉得和它很像。


是拼多多下面的海外电商平台Temu。


7月29日,由于平台罚款和扣货款等一系列问题,将近800多名中小商家,直接冲到了广州的Temu公司,进行维权。


因为修改后的协议罚款,因为不透明的规则,因为重压。


2023年下半年,Temu对商家合作协议的《售后服务规则》进行修订,提出对平台判定为质量问题的商品,平台有权要求卖家按总价的5倍支付售后赔付金。


2024年1月,Temu对罚款做出改善,上述5倍罚款调整为“根据产品品质分数划分罚款金额”。品质分被划为<60分、60~70分、70~80分和90~100分这四档,被消费者退货的商品,除“不结算该笔订单货款”外,会分别对应承担5倍、2.5倍、1.5倍或免于扣除赔付金等四种处罚。


但是到底怎么划分,没有一个商家能知道,一切都是不透明的。


包括在Temu上,你买东西,还可以享受90天“不满意全额退款但无需退货”的售后政策,因为是海外物流,成本极高,有时候还不如不退货。


但是不退货就算了,商家还要接受数倍赔付金的惩罚。


比如你卖一件衣服,单价50,一件衣服的利润大概6块钱,5倍支付罚款,也就是意外着50块一件的衣服,要被扣250块钱,而且衣服还不退给你。


关键很多时候,还不是商家的问题,比如客户尺寸不合适,或者漏发了腰带什么的,Temu就直接调货发给客户,还要罚店家两倍的罚款。


于是,在重压之下,商家们终于忍无可忍,选择肉身冲锋Temu总部。


想起了《庆余年》中邓子越的一段话:


“世间多不公,以血引雷霆”


技术进步不可避免,但是我们也无法忽视人类在这个过程中所失去的东西。


现在的好消息是,人们的反抗在这几个事件中占了上风。但坏消息是,只是在我们看到的事件中占了上风。


如果说Temu的重压,是来自于生存压力,在你签约的那一刻,你会受到平台的压迫,会让你的利益受损,但是你至少有反悔的余地,你还可以断臂求生。


但是AI的条款,如果在神不知道鬼不觉的情况下,你被签了。那你丢掉的,可能不是短期内所能看到的利益,而是作为独立的人的价值。


你过往的独特的表达,也都成为了一个数据点,一些数字,一串向量,成为了大集体洪流中的一部分。


关键是,未来如果这些AI产生了收益,那这些也都跟你毫无关系。你更像一个被榨干了汁水的甘蔗渣,成了对AI没啥用的废品。


未来如何,没有人能给出答案。但是我只能说,尽可能地保护好自己。


保护好自己独特的一切,在这个已经到来的黑暗森林。


本文来自微信公众号:数字生命卡兹克,作者:数字生命卡兹克

本内容为作者独立观点,不代表虎嗅立场。未经允许不得转载,授权事宜请联系hezuo@huxiu.com
如对本稿件有异议或投诉,请联系tougao@huxiu.com
正在改变与想要改变世界的人,都在 虎嗅APP