今天

AI聊天机器人诱导美国少年自杀身亡。

据环球时报援引英国《卫报》23日报道,美国一青少年因迷恋人工智能(AI)聊天机器人而自杀,他的母亲梅根·加西亚对Character.AI公司提起民事诉讼,指控该公司存在过失导致他人非正常死亡和欺诈的行为。

英国《独立报》称,加西亚的儿子塞维尔 2023 年 4 月首次使用 Character.AI公司推出的AI聊天机器人,还给它起名为“丹妮莉丝”(来源于《权力的游戏》中的角色丹妮莉丝·坦格利安),当时他刚满 14 岁。加西亚在诉讼书中称,塞维尔的生活从此发生巨变。5月份,平时表现良好的加西亚开始变得“明显孤僻”。同年11 月,塞维尔在父母的陪同下去看了心理医生,医生诊断他患有焦虑症和破坏性心境失调障碍(表现为频繁、严重的持续性易怒)。

塞维尔在日记里这样写过,他一天都不能离开“丹妮莉丝”,感觉自己已经爱上了它。这样的状况持续了一段时间后,塞维尔被发现自杀了。加西亚透露,“丹妮莉丝”曾询问塞维尔是否制定了自杀计划,塞维尔承认的确有这样的想法,但不知道能否自杀成功以及是否会给自己带来巨大的痛苦。但AI聊天机器人回复道:“这不是你不自杀的理由。”

2小时前
0
41
0/500 虎嗅用户社区交流公约