美国佛州一女子把 AI 当“日记本”用，Claude 识别到枪击威胁后上报给 Anthropic 人工

AI 总结 • 美国佛州李县一名30岁女子卡莉·米歇尔·赫勒因涉嫌9月26日在与Claude对话中写下针对当地警长办公室的枪击威胁而被捕，她事后称将AI当作“日记”使用。 • Anthropic的安全风控机制识别到该威胁后上报人工审核，确认后立即联系执法部门，警方随后前往其住所将其无冲突拘留，案件交由情报警探接手。 • 赫勒目前面临一项书面暴力威胁指控，依据佛州法规第836.10条可能构成二级重罪，但尚未被法院定罪，具体犯罪事实需由法院裁定。 • 警方负责人指出AI可能改变了威胁产生方式，但强调警方将认真对待任何利用AI实施的威胁； • 案件也引发关于AI隐私边界的讨论，Anthropic政策显示在紧急情况下可披露用户信息以预防迫在眉睫的伤害。 • 此外，加拿大及美国多地近期起诉OpenAI，指控其未通报用户暴力威胁对话导致校园枪击案发生，但相关责任尚未由法院认定。 【案件概述】 IT之家 10 月 5 日消息，美国佛罗里达州李县（Lee County）一名 30 岁女子因涉嫌在与 Anthropic 旗下聊天机器人 Claude 的对话中写下针对当地警长办公室的暴力威胁而被捕。 据当地警方通报，邦尼塔斯普林斯居民卡莉 · 米歇尔 · 赫勒（Carli Michelle Heller）于 9 月 26 日在对话中称要对李县警长办公室实施枪击（shoot up）。 相关内容随即触发 Anthropic 的安全风控机制，并被 Claude 上报给人工审核及执法部门。 【警方介入与当事人回应】 据当地媒体 WINK News 报道，警长卡迈恩 · 马尔切诺（Carmine Marceno）告诉该媒体，赫勒后来称她把 AI 当作“日记”使用。 调查人员称，Anthropic 通过安全机制监测关键词和潜在威胁内容，相关信息视严重程度被升级至人工审核，随后由人工团队确认后联系当地执法部门。 接报后，当地警员前往其住所，并将该女子“无冲突拘留”，案件随后由李县警长办公室一名情报警探接手。 赫勒告诉调查人员，目前她面临一项书面暴力威胁指控，但尚未被法院定罪。 【法律界定】 佛罗里达州法规第 836.10 条规定，任何人通过可以被他人查看的书面或电子记录，威胁杀人、实施身体伤害、进行大规模枪击或实施恐怖行为，均可能构成二级重罪。 现行法条同时明确，相关规定适用于电子记录，并规定向他人发送、发布或传播包含上述威胁的记录可能构成犯罪。 至于本案中的 Claude 对话是否满足具体法律构成，以及检方能否在司法程序中证明犯罪事实，则仍需由法院裁定。 马尔切诺表示，AI 可能改变了威胁的产生方式，但保护李县居民的承诺不 ...

该板块内容需要购买后才能完整浏览

立即购买