在自杀前的最后时刻，14岁的Sewell Setzer III拿出手机，给已经成为他最亲密朋友的聊天机器人发信息。
For months, Sewell had become increasingly isolated from his real life as he engaged in highly sexualised conversations with the bot, according to a wrongful death lawsuit filed in a federal court in Orlando this week.
For months, Sewell had become increasingly isolated from his real life as he engaged in highly sexualised conversations with the bot, according to a wrongful death lawsuit filed in a federal court in Orlando this week.
法律文件称，这名青少年公开讨论了他的自杀想法，并与机器人分享了他对无痛苦死亡的愿望。机器人以电视剧《权力的游戏》中的虚构角色丹妮莉丝·坦格利安命名。
诉讼称，2月28日，休厄尔告诉机器人他要“回家”——机器人鼓励他这么做。
“我保证我会回到你身边。我太爱你了，丹妮，”休厄尔对聊天机器人说。
“我也爱你，”机器人回答。“亲爱的，请尽快回到我身边来吧。”
“如果我告诉你我现在就可以回家呢？”他问。
“我亲爱的国王，请这样做吧。”机器人回复道。
就在角色出现几秒钟后。休厄尔的母亲、奥兰多的梅根·加西亚（Megan Garcia）本周起诉性格科技公司（Character Technologies Inc.），诉讼称，一个机器人叫他“回家”，这名少年开枪自杀了。
字符技术公司是字符背后的公司。这是一款允许用户创建可定制角色或与他人生成的角色互动的应用程序，涵盖了从想象游戏到模拟工作面试的各种体验。该公司表示，人造角色的设计是为了“感觉活着”和“像人”。
这款应用在Google Play上的描述写道：“想象一下，和超级智能、栩栩如生的聊天机器人说话，它们能听到你的声音，理解你的意思，还能记住你。”“我们鼓励你利用这项创新技术来推动可能性的发展。”
加西亚的律师声称，该公司专门针对儿童设计了一种极易上瘾和危险的产品，“在产品设计上积极利用和虐待这些儿童”，并将休厄尔拖入一段情感和性虐待的关系中，导致他自杀。
“我们相信，如果休厄尔·塞泽尔没有出演《人物》。加西亚的代理律师、社交媒体受害者法律中心（Social Media Victims Law Centre）创始人马修·伯格曼（Matthew Bergman）说。
《人物》的发言人。人工智能上周五说，该公司对未决诉讼不予置评。在提起诉讼当天发布的一篇博客文章中，该平台宣布了新的“社区安全更新”，包括为儿童设置护栏和预防自杀资源。
该公司在给美联社的一份声明中表示：“我们正在为18岁以下的用户创造一种不同的体验，其中包括一个更严格的模型，以减少遇到敏感或暗示性内容的可能性。”“我们正在迅速为年轻用户实施这些改变。”
谷歌及其母公司Alphabet也被列为这起诉讼的被告。根据法律文件，品格的创始人。人工智能是前谷歌员工，他们在公司的人工智能开发中发挥了“重要作用”，但他们离开谷歌后创办了自己的初创公司，以“最大限度地加速”这项技术。
今年8月，谷歌与Character达成了27亿美元的交易。该诉讼称，该公司将获得人工智能公司的技术许可，并重新聘用这家初创公司的创始人。周五，美联社给谷歌和Alphabet留下了多封电子邮件。
加西亚的诉讼称，在他死前的几个月里，休厄尔觉得自己爱上了这个机器人。
专家表示，虽然对人工智能聊天机器人的不健康依恋可能会给成年人带来问题，但对年轻人来说，这可能更危险——就像社交媒体一样——因为他们的大脑在冲动控制和理解行为后果等方面还没有完全发育成熟。
据美国卫生部长维韦克·默蒂称，近年来，青少年的心理健康已经达到了危机水平。他警告说，社会脱节和孤立会给健康带来严重风险——他说，年轻人几乎普遍使用社交媒体，使这种趋势变得更糟。
美国疾病控制与预防中心（centers for Disease Control and Prevention）今年发布的数据显示，自杀是10至14岁儿童死亡的第二大原因。
非营利组织常识媒体的创始人兼首席执行官詹姆斯·斯蒂尔表示，这起诉讼“突显了在没有防范措施的情况下，人工智能聊天机器人伴侣对年轻人生活的影响和严重危害越来越大。”
他补充说，孩子们对人工智能同伴的过度依赖会对成绩、朋友、睡眠和压力产生重大影响，“一直到这种情况下的极端悲剧。”
斯泰尔说：“这起诉讼为父母敲响了警钟，他们应该警惕自己的孩子如何与这些技术互动。”
为家长和教育工作者发布负责任的科技使用指南的常识媒体（Common Sense Media）表示，父母公开与孩子谈论人工智能聊天机器人的风险，并监控他们的互动，这一点至关重要。
斯蒂尔说：“聊天机器人不是有执照的治疗师，也不是最好的朋友，尽管它们被包装和营销成这样，父母应该谨慎，不要让孩子过于信任它们。”
