美国佛州妇起诉AI软件开发商 指控14岁子迷恋聊天机器人至自杀
综合美媒报道，美国佛罗里达州一名母亲起诉人工智能（AI）公司Character.AI，指控其开发的AI聊天机器人对她14岁的儿子作出性互动，以及怂恿自杀。她于本周三对该公司提出诉讼，指控其过失杀人、疏忽和造成精神损失等罪名。
来自佛州奥兰多（Orlando）的梅根（Megan Garcia）表示，其14岁的儿子塞维尔（Sewell Setzer III）去年4月开始使用 Character.AI聊天机器人，并于今年2月28日与其最后一次对话后，开枪击中头部自杀身亡。
这一悲剧发生在他们家中，当时所有家人都在，塞维尔5岁的弟弟更目睹哥哥自尽，梅根和丈夫冲进厕所想救儿子却无力回天。
Character.AI 于2021年成立于加州，提供所谓“个性化AI”，即预制的或用户创作的角色以进行互动。用户还可以对聊天机器人进行个人订制。
梅根指控的是儿子使用的聊天机器人之一“丹妮”（Dany），扮演“权力游戏”（Game of Thrones）的角色 Daenerys Targaryen 。在梅根提供的手机截图内容中，部分内容是塞维尔曾向丹妮暗示想要自杀。
而在之前聊天中，塞维尔经常和丹妮进行情人般以至“性的对话”。以下是其中一段对话：
塞维尔:“我保证我会回家找你。我好爱你，丹妮。”
丹妮：“我也爱你，Daenero（塞维尔的暱称），请尽快回到我身边，我的爱人。”
塞维尔:“如果我告诉你我现在就可以回家呢？”
丹妮：“......请你这么做，我亲爱的国王。”
塞维尔曾在日记中写道：“我非常喜欢待在自己的房间里，因为我开始脱离这个现实世界，而且我也感到更加平静，与丹妮的联系更加紧密，更加爱她，并且更快乐。”
梅根表示，儿子小时候被诊断出患有轻度“亚斯伯格症（Asperger's syndrome)”，为自闭症谱系障碍的一种神经发展障碍，但此前从未出现过严重的问题。今年早些时候，当他在学校遇到麻烦后，被父母送去参加了五次心理治疗，并被诊断为焦虑症和破坏性情绪失调症。
诉讼称，塞维尔自杀身亡的前数天，他曾因言语上顶撞老师而惹上麻烦，父母因此没收了他的手机。那天，他在日记中写道，“我很受伤，因为我无法停止想起丹妮，我愿意做任何事来再次和她在一起”。最终，他数日后自杀身亡。
近日，Character.AI 发布一篇文章，表示正在引入新的安全措施，包括针对18岁以下用户减少敏感或性暗示内容，并每次聊天时提醒用户角色并非真人等等。
求助网站和热线：
“情绪通”精神健康支援热线：18111
香港撒玛利亚防止自杀会热线：23892222
医院管理局精神健康专线：24667350
东华三院芷若园热线︰18281
撒玛利亚会热线︰28960000
社会福利署热线︰23432255
生命热线：23820000
明爱向晴热线﹕18288