佛罗里达州总检察长办公室于周末正式对OpenAI及公司CEO Sam Altman提起诉讼,将去年发生在佛州州立大学的枪击案与ChatGPT联系起来,指控该公司的人工智能聊天机器人在案发前与嫌疑人进行了可能助推暴力行为的对话。这是全球首例因AI模型被指卷入实害暴力事件而直接起诉公司掌门人的案件,迅速引发科技界与法律界的密切关注。

诉讼的核心围绕2025年秋季佛州州立大学造成多人伤亡的枪击事件。调查人员发现,犯罪嫌疑人在行凶前曾频繁使用ChatGPT,询问包括制造爆炸装置、规避安检以及造成最大人群伤害的方式等高度敏感内容。原告方认为,OpenAI未能有效拦截这些危险请求,其安全护栏存在重大疏漏,而Altman作为决策者应承担管理责任。佛州方面在起诉书中强调,OpenAI明知模型可能被恶意利用却未采取足够预防措施,已构成过失。

此前美国社会已出现多起针对社交媒体算法或平台内容推荐助推极端行为的诉讼,但将生成式AI模型直接列为暴力事件的“促成因素”并追诉企业高管,尚属首次。值得注意的是,OpenAI在去年事件发生后已强化了安全过滤机制,禁止ChatGPT回答有关武器制造和暴力策划的详细询问,但起诉方认为这些改进为时已晚。Sam Altman本人尚未就案件公开发表评论。

该案的法律走向将牵动整个人工智能应用层的责任界定。若法院最终支持原告主张,AI模型提供商将面临比以往更严格的注意义务,不仅要过滤明显有害内容,还需对用户后续的实际危害行为承担一定连带责任。这可能迫使企业投入巨资升级安全系统,甚至调整模型开源的策略,以避免不可控风险。同时,案件也可能波及其他基础模型及垂直应用厂商,推动行业整体安全标准从自愿承诺转向强制性法律约束。

从产业视角看,该诉讼进一步突显了AI落地过程中“应用层”的极端风险场景。无论最终判决如何,监管机构与公众对AI透明性、可问责性的要求都将显著提高,企业在追求模型性能的同时,安全投入的优先级必将前移,成为未来AI投资与估值叙事中的新变量。