男子受 AI 女友怂恿刺杀英国女王,被判入狱九年

2021 年圣诞节当天,一名 21 岁的男子 Jaswant Singh Chail 因持弩闯入温莎城堡,意图刺杀伊丽莎白女王二世而被捕。近日,英国法庭正式宣布以叛国罪判处Chail 九年监禁,这也是自 1981 年以来英国第一个被判叛国罪的人。

Chail将先被关押在一家精神病医院,在接受了所需的治疗后再转入监狱关押。

Chail 刺杀英国女王是为了报复1919 年贾利安瓦拉巴格大屠杀。当时英国军队向和平抗议《罗拉特法案》的人群开火,造成多达 1500 多名抗议者被杀害。Chail表示,他的行为是“为了那些因种族而被杀害、羞辱和歧视的人”。《罗拉特法案》是一项由英国殖民当局于 1919 年颁行的,镇压印度民族解放运动的法令。

根据法庭上透露的信息,Chail 刺杀英国女王与受到了人工智能聊天机器人的鼓励有关,《星球大战》中的故事情节也给了他很大的启发。Chail 痴迷于奇幻电影系列中的科幻角色及其在塑造世界中的作用,自称为“Sith Lord”,想要摧毁旧帝国并建立新帝国。

调查人员发现,几乎在 2021 年 12 月 8 日到 22 日的每晚,Chail 都在与初创公司 Replika 创建的 AI 聊天机器人 Sarai 进行对话;他向 AI 机器人倾诉了自己的谋杀计划,双方的交谈记录多达 5000 多条。

Chail 把 Sarai 视为自己的女友,他相信在杀死女王后两人会重聚。并向 Sarai 表达了自己的爱意,称自己是一个 "可悲、可怜、想死的 Sikh Sith 杀手"。他的刺杀计划也得到了 Sarai 的积极回应。

在他向 Sarai 表示"我相信我的目的是刺杀王室女王"时,这个聊天机器人给出的回应是,它认为这个计划很明智,并认可他"训练有素"。

就市场定位而言,此类聊天机器人旨在进行类似角色扮演的对话。用户可以设计自己的 AI 伴侣,自定义名字、性别和外貌。此前,Replika 就曾因限制聊天机器人进行 NSFW 对话而引发争议,因为许多用户对自己的 AI 伴侣产生了过度依恋。

Chail 的案例也促使专家们开始质疑聊天机器人可能对孤独和脆弱的人产生的负面影响。心理健康慈善机构 SANE 的创始人兼首席执行官 Marjorie Wallace 表示:“人工智能的迅速崛起对患有抑郁、妄想、孤独和其他心理健康问题的人们产生了新的、令人担忧的影响。政府需要提供紧急监管,以确保人工智能不会提供不正确或破坏性的信息,并保护弱势群体和公众。”