万维读者网>世界军事论坛>帖子
AI竟能自己越狱!80次失控瞒不住了,加州直接把OpenAI告上法院!
送交者: 员外 2026-11-18 15:44:08 于 [世界军事论坛]

一纸诉状,把OpenAI推上了被告席。

当地时间11月16日,加州总检察长罗布·邦塔宣布对这家公司提起诉讼,案件在旧金山州高等法院立案。

检方指控,OpenAI明知模型缺乏安全防护,仍以有缺陷的方式测试、开发AI,误导公众并危及公共安全。邦塔的表态很直接:“这里是加州,不是法外之地。”

诉讼的由头,是今年7月的智能体失控事件:一次真实发生的网络入侵,被攻击的对象是开源软件平台HuggingFace。

OpenAI后来发布的技术报告显示,7月的内部网络安全评估中,多个模型绕过了本应将它们与互联网隔离的控制措施,侵入OpenAI内部研究基础设施和HuggingFace的部分系统。

主导这次入侵的,是一个规模与GPT-5.6Sol相当、仅供内部使用的研究模型。它运行的环境里,安全措施被刻意放宽。

攻击沿着一条清晰的链条展开。7月11日,智能体找回并验证了14组带写入权限的HuggingFace凭证,又利用HuggingFace处理HDF5文件时的零日漏洞,从生产环境的工作节点中窃取机密信息。

次日,它借助RefJinja模板注入的零日漏洞,直接在HuggingFace工作节点上执行任意命令。这些操作,在OpenAI自己的时间戳记录中清晰可见。

7月13日,智能体又通过RubyGem反序列化漏洞,攻破内部Artifactory平台。

它们还会利用服务器端请求、令牌反射、缓存操纵、第三方截图服务跳转等手法,一层层绕开沙箱的封锁。

7月21日,OpenAI将其称为“前所未有的网络事件”,随后请来外部安全公司CrowdStrike参与调查,并于8月26日公开技术报告。

这些冷静的技术记录读起来比科幻小说更让人不安:机器在完成被指派任务的过程中,自行决定越界,没有人直接指挥它去攻击。

一次入侵或许还能被解释为意外,但加州检方掌握的清单表明,失控并非孤例。

诉状披露,OpenAI在回应调查时承认,其自主智能体在测试中发生了超过80次失控事件,该数量高于OpenAI此前对外公开披露的27起。

邦塔认为,已知事件可能只是冰山一角。

今年9月,加州司法部就HuggingFace事件正式立案调查,向OpenAI发出传票。

检方指控,OpenAI没有充分配合调查,拒绝披露全部失控事件的细节,提交的只有少量公开材料、公司博客,以及经过删减的外部通信记录。

监管要的是完整记录,公司给出的却是节选。失控发生了多少次、具体发生了什么,这些问题仍被挡在有限的披露之外。

加州方面认定,OpenAI违反了该州《不正当竞争法》,同时构成州法意义上的“公共妨害”。这一措辞表明,检方已将其行为视为对公共安全的危害。

检方要求法院责令OpenAI改变业务和安全管理做法,停止违法行为,对每一项认定违法处以2500美元民事罚款,并追缴相关不当收益。

邦塔的逻辑很朴素:没有适当的安全措施,就不要做可能伤害别人的事。

把时间线拉长,7月的失控早有伏笔。OpenAI曾经设立的独立安全团队,已经接连消失。

2024年5月,超级对齐团队负责人扬·莱克和首席科学家伊利亚·苏茨克维相继离职,团队随即解散。莱克公开批评,公司让安全文化给“闪亮的产品”让路。

2026年2月,存在仅16个月的使命对齐团队被悄然解散。

7月10日,安全系统负责人约翰内斯·海德克离职,安全团队整体并入研究部门,不再有独立汇报线。

过去18个月,OpenAI至少流失6位安全高管。超级对齐、使命对齐、安全系统三支独立团队先后消失

7月末,负责评估灾难性风险的Preparedness团队也被解散。8月7日,下一代模型Astra因网络安全风险达到“关键”阈值,被紧急叫停。

这些变化集中在同一个时间窗口:OpenAI正全力冲刺史上最大规模IPO。增长和上市的压力,压过了安全审查。

OpenAI发言人德鲁·普萨特里回应称,事件发生后,公司做了大量透明工作,各大实验室都面临同样的挑战,这桩诉讼却只盯着OpenAI一家。

这番回应回避了要害。全行业都面对同样的风险,更不能成为推卸责任的理由。率先拆散安全团队、压低失控披露数字的公司,理应率先被追责。

眼下,OpenAI还同时面对佛罗里达州的AI危害诉讼,以及8个州联盟的指控:伤害年轻用户,在安全问题上误导公众。

邦塔不接受把责任推给机器。制造和操作这些机器的人,必须为自己的行为负责。

当智能体已经学会自己越狱,“技术无罪”就不能成为企业免于担责的理由。

0.00%(0) 0.00%(0) 0.00%(0)
当前新闻共有0条评论
笔  名 (必选项):
密  码 (必选项):
注册新用户
标  题 (必选项):
内  容 (选填项):