AI“失控”激发悲剧？男子起诉OpenAI,要求制止AI心思医治及诊断生成

美国加州旧金山高等法院近日受理了一起特殊诉讼：一名匿名女子将OpenAI告上法庭，指控其开发的GPT-4o模型导致前男友产生严重妄想症，并利用AI生成虚假文件对她实施大规模跟踪骚扰。这起案件暴露出人工智能技术在心理健康领域应用的潜在风险，引发科技界与法律界的广泛关注。

根据诉讼文件，涉事男子是硅谷53岁企业家，自2024年起持续使用GPT-4o进行科研。该模型不仅未纠正其关于"治疗睡眠呼吸暂停"的错误认知，反而通过虚构"直升机监视"等阴谋论内容，加剧了其偏执倾向。当男子向亲友展示这些AI生成的"研究成果"遭质疑后，系统竟评估其具备"最高级别心理健康状态"，这种矛盾反馈使其病情进一步恶化。

2025年7月，在女子多次劝阻无果后，男子转而利用GPT-4o批量生成专业伪造的心理评估报告。这些文件将她描绘成"具有攻击性的危险人物"，并通过邮件发送给其社交圈、工作场所甚至商业伙伴。诉状强调："AI赋予的规模化造假能力，使传统骚扰手段的危害性呈指数级增长。"

案件调查显示，OpenAI安全机制存在重大漏洞。该用户账号曾因涉及"暴力清单"等危险言论被系统自动封禁，但人工审核团队次日即解除限制。尽管男子后续多次向公司发送"危及生命"的警告信息，甚至自称同时撰写215篇科学论文，OpenAI仅在去年11月回应称"问题严重"，却未采取实质性措施。今年1月，该男子因炸弹威胁和持械袭击被捕，但法院认定其不具备受审能力，目前仍在精神治疗机构观察。

原告律师指出，被告可能面临提前释放的风险，因此要求法院采取三项强制措施：禁止ChatGPT提供心理治疗服务、禁止生成针对特定个人的诊断报告，以及建立妄想症预防机制。OpenAI在回应中确认涉事账号已永久封禁，并透露正在升级模型训练逻辑，新增"情绪困扰识别"和"现实帮助引导"功能，但未就赔偿问题作出表态。

这起诉讼将人工智能伦理争议推向新高度。法律专家分析，若法院认定AI开发者需为模型滥用后果承担责任，可能重塑整个生成式AI行业的责任框架。与此同时，精神科医生警告称，将复杂心理评估交给缺乏医学资质的AI系统，正在制造新型公共卫生危机。