红楼梦

聊天框里的谋杀预谋当事人达伦·周（Darren Shida Zhou），25 岁，是高盛集团驻西棕榈滩分支机构的金融分析师，所在团队隶属资产与财富管理部门，美国金融业监管局（FINRA）的公开注册记录显示其任职时段为 2024 年 3 月至 2026 年 6 月。据《棕榈滩邮报》最初的报道，以及随后多家媒体援引的棕榈滩县治安官办公室逮捕令，他在 ChatGPT 对话框里多次输入针对前女友的暴力威胁语句，包括「我要在本月底杀掉她」，以及「如果我得不到她，就不让任何人得到她」。这段关系在 2026 年 3 月结束。”研究人员目前仍不完全清楚原因，但婴儿在语言学习上表现出极强的适应能力，很快就能掌握语言规则和词汇。周的前女友选择通过电话提出分手，原因是她担心当面告知会引发对方过激反应，并在此后向执法人员描述了他的「反复无常、善妒且控制欲强」的行为模式。

三 | 大语言模型却需要规模惊人的语言数据，才能达到类似熟练程度，所需数据量远高于普通人类。分手后，对方多次尝试屏蔽周的联系方式，但他持续通过应用程序生成的临时号码拨打电话和发送短信。弗兰克形容人类学习语言的能力“简直像奇迹一样”。与此同时，他开始在 ChatGPT 对话框里倾诉，起初是讨论这段感情，随后逐步升级为具体的暴力描述。他指出，幼儿从周围环境中接触大约 1000 万至 3000 万个词后，就已经能开始说出清楚、可理解的句子。逮捕令所援引的聊天日志显示，周的计划有着极为具体的情节。“如果你只用 3000 万个词训练 GPT-2，得到的会是一个胡言乱语生成器，而不是一个孩子。”从报道中获悉，这种效率差距已经成为 AI 行业必须面对的一大难题，尤其是那些希望单纯通过不断扩大语言模型规模，最终实现人类水平 AI 的科技公司。许多 AI 专家认为，这条路线本身就不可能达到目标。在一段记录中，他写道，自己打算带着鲜花在前女友健身房的停车场等候她，一旦对方拒绝复合，他计划拔枪，先杀掉她，再自杀。他的陈述甚至延伸至对方家人。在部分对话里，他还主动向 ChatGPT 确认，前女友尚不知晓这些威胁的存在。

四 | ChatGPT 的自动安全机制在检测到异常内容后，将这批对话标记并移交 OpenAI 人工审核团队。OpenAI 向执法机构报告了这批对话记录。

五 | FBI 接获报告，在逮捕前约六天将相关记录转交棕榈滩县治安官办公室，侦探随即将聊天日志与周直接发送给前女友的短信截图进行比对，确认两者之间存在高度一致的行为模式，并作出「存在可信威胁」的研判结论，于 2026 年 5 月 29 日将其逮捕。周被捕后羁押两天，随后以 10 万美元保释金获释。检察官助理安娜·库斯科娃（Ana Cuskova）提出三项指控：跟踪骚扰、书面或电子威胁杀人或伤害、以及以双向通信设备实施重罪。三项指控合计最高刑期可达 25 年监禁。高盛集团在 6 月获悉指控后，将周解雇。

六 | 然而最终，检辩双方于 2026 年 8 月 13 日达成认罪协议。

七 | 周对全部三项指控认罪，主审法官斯科特·苏斯考尔（Scott Suskauer）以「暂缓裁定」的方式处理，即认定有罪但不正式宣告重罪定罪，判处 8 年缓刑，其中前 2 年须佩戴电子脚踝监控器，全程禁止接触前女友，禁止持有枪支，同时须完成家庭暴力干预课程，并入住西棕榈滩一家名为「Beachside」的心理健康与康复中心接受评估。法官在宣判前当庭对周说：「世界上还有很多人。没有人应该承受你对这个女性施加的行为。」周的辩护律师将判决结果描述为「极为公平合理的解决方案」，并补充道当事人以优异成绩从波士顿东北大学毕业，案发前没有犯罪记录，也未实际持有枪支。

从日志到法庭这起案件能够进入司法程序，核心依据是达伦·周本人留在 ChatGPT 里的两个月聊天记录。

八 | 这说明用户在 AI 对话框中输入的内容，在特定条件下可以从个人表达转变为可呈堂的司法材料。OpenAI 曾在一篇关于社区安全承诺的官方博客中明确说明，ChatGPT 的对话内容并不处于完全私密状态。自动系统对涉及潜在危害的内容进行持续扫描，触发后移交一支规模有限的人工审核团队介入研判，若结论认定存在对他人造成严重人身伤害的迫切威胁，公司有权将相关信息报告给执法机构。OpenAI 在政策表述中明确区分了两种处置路径：涉及用户自我伤害或自杀意图的内容，出于对私人互动私密性的考量，目前不予上报警方，平台引导用户使用危机热线；涉及威胁他人人身安全的内容，则适用截然不同的处置标准。达伦·周的对话属于后者，威胁对象具名，时间节点明确，手段描述清晰，完整满足了内部上报的研判条件。

九 | 之前的佛罗里达州立大学枪击案中，枪手菲尼克斯·伊克纳（Phoenix Ikner）在行凶前曾与 ChatGPT 进行多次对话，受难者家属据此对 OpenAI 提起诉讼，佛罗里达州总检察长公开表示，若 ChatGPT 是一个自然人，它将面临谋杀指控。加拿大不列颠哥伦比亚省 Tumbler Ridge 于 2026 年 2 月发生的枪击事件中，嫌疑人在案发数月前曾因涉及枪支暴力的描述被 ChatGPT 封号，约十余名 OpenAI 工作人员参与内部审核，但公司认定当时言论不满足「可信迫切威胁」的上报标准，未予通报当局，事后才主动联系加方执法机构。当时舆论场上有两种声音：一方认为 OpenAI 上报太晚、标准过于保守；另一方则指向上报机制缺乏足够透明度，政策边界模糊。OpenAI 的安全机制夹在这两种压力之间，其裁量标准的合法性开始引发法律学界的正式讨论。据美国明尼苏达大学法律与技术评论的分析，美国现行《存储通信法》（Stored Communications Act）技术上允许平台在认为有必要「预防涉及人身死亡或重伤风险的紧急情况」时自愿披露用户数据，但该法律并未强制要求平台采取任何特定的安全响应措施。这意味着平台的具体行为标准，目前仍在很大程度上由企业内部政策自行决定，缺乏独立的外部监督机制。

一次 Tarasoff 式的结构困境当用户将 AI 当作倾诉对象，对话记录究竟受到什么程度的保护，还是说，它随时可能成为法庭证据？1970 年代，美国加利福尼亚州发生了一起后来影响深远的案件。加州大学伯克利分校的心理医生在接诊过程中，获知患者计划杀害一名具体的女性 Tatiana Tarasoff。心理医生认为这个威胁具有现实危险性，并通知了警方，但没有直接通知 Tarasoff。

十 | 后来患者真的杀害了她。案件层层上诉至加州最高法院。法院在 Tarasoff v. Regents of the University of California 一案中裁定，当心理治疗师有合理依据相信患者可能对可识别第三方造成严重伤害时，单纯恪守医患保密协议，不构成充分的法律抗辩。治疗师负有采取合理保护措施的义务，这一义务在特定情境下优先于保密承诺。这项原则在美国被称为「警告义务」（duty to warn）或「保护义务」（duty to protect），并在此后数十年内扩展至多个职业领域与司法管辖区。

十一 | 上述案件的伦理争议在于：治疗关系之所以可能产生实质效果，部分原因在于患者相信对话不会外泄。这种信任感催生坦诚，坦诚才可能带来真正的心理干预。若治疗师凡听到「我想伤害某人」就即刻报警，患者或许会从此将内心冲动藏得更深，治疗本身也可能失去功能。但如果治疗师选择永远保密，他可能保护了患者的隐私，却间接让另一个人走向死亡。放在 AI 的语境中，Tarasoff 案式的困境正在以更大规模、更低摩擦的方式重演。

十二 | 每天有数亿人在这个对话框里倾诉焦虑、发泄挫败，流露出短暂的偏激情绪。「我真想杀了他」作为一种日常泄愤的修辞，与真实谋杀预谋之间的边界，对自动审核系统而言，不可能总是清晰的。OpenAI 区分「自我伤害」与「威胁他人」两条路径，是一种具有内在逻辑的政策设计，至少在方向上呼应了 Tarasoff 精神。

十三 | 然而研究者注意到，AI 聊天工具已在某些群体中承担起近似心理支持的功能，高频使用场景包括情感危机、人际冲突，以及难以向周围人言说的极端情绪。若这部分用户开始将平台监控视为对话风险，他们可能选择自我审查，并不表露内心最需要被处理的部分。

十四 | AI 与数亿用户之间的隐私边界，还没有一起具有类似 Tarasoff 里程碑意义的司法裁决，也没有一套足够透明、可被独立审视的政策框架。