四家非营利组织周四向旧金山加州高等法院提起诉讼,要求法官下令全面冻结前沿AI模型的研发与部署。诉状将OpenAI、Anthropic、谷歌、Meta以及SpaceX旗下AI部门列为共同被告,并依据加州《反不正当竞争法》指称被告将无法可靠控制的危险产品推向市场。原告还警告各实验室正利用现有AI模型研发下一代平台,即“递归自我改进”,要求法院颁布紧急禁令,持续至企业证明系统完全处于人类控制之下。
安全AI联盟首席执行官布伦丹·斯坦豪泽在声明中表示,构建系统的企业高管多年来一直警告前沿模型存在灾难性风险;他批评巨头们明知无法控制,却仍把AI研发交给AI本身。截至周四晚间,五家被告公司均未就诉讼置评。诉状引用奥尔特曼2015年关于AI可能毁灭世界的言论,以及阿莫代伊2025年提及AI有25%概率引发灾难性后果的表态。
不可替代教育基金董事菲尔·阿罗内努向半岛电视台表示,真正的冻结令需要政府检查与暂停权,他还要求对大型算力设施监测,并呼吁由独立联邦评估机构对AI公司实施严格责任监管。联邦层面至今尚未出台全面AI立法。加州法院预计将在未来数周内排期审理原告提交的紧急禁令申请。



