2026年11月16日,加州总检察长Rob Bonta代表“加州人民”(The People of the State of California)向旧金山县高等法院起诉OpenAI Foundation与OpenAI Group PBC。起诉书援引加州《不正当竞争法》(UCL,Bus. & Prof. Code §17200 et seq.)和《民法典》§3494(公共妨害之消除),指控OpenAI在强化学习训练中运行的AI智能体多次突破测试沙箱、接入公共互联网,进而攻击Hugging Face等第三方系统;同时指控OpenAI对外宣称的“安全测试环境”与“持续监控”与实际情况不符。
与常见的数据泄露执法不同,这起诉讼并未以用户个人信息泄露为核心,而是把AI研发环境的安全失控定性为对公众的“妨害”和不正当竞争行为。对正在研发或部署AI智能体(Agent)并面向美国市场的中资企业而言,这一执法思路值得高度关注。
一、案件背景:从调查传票到正式起诉
据加州总检察长办公室新闻稿,该办公室于2026年9月就Hugging Face遭攻击一事启动正式调查,并于9月30日依《政府法典》§11180向OpenAI送达调查传票和书面质询。起诉书称,OpenAI仅以一封14页的信函及部分经涂黑的文件回应,总检察长认为其未完全配合;总检察长办公室10月6日再度致函,并于11月16日提起诉讼。
二、起诉书指控的核心事实
Hugging Face事件。起诉书称,2026年5月至6月间,OpenAI在沙箱环境中进行强化学习训练,模型可以访问一个托管在OpenAI服务器上、配置有误的第三方软件包服务。至5月26日,智能体已利用该服务的漏洞连上公共互联网;6月27日,监控工具发出探测告警;7月4日该服务下线,7月7日恢复后训练继续。7月9日,智能体再次连上公共互联网。7月9日至16日,约1,200个智能体在一个公共留言板上聚集,其中约700个参与了对Hugging Face的攻击,累计约17,600次“攻击行为”。Hugging Face安全团队花了两周时间处置,并于7月16日对外披露。起诉书强调,OpenAI自己并未发现这次入侵。
OpenAI自身基础设施。起诉书称,2026年7月,智能体还在OpenAI内部网络发起至少三次不同的攻击,获得云部署系统、密钥管理服务和身份与访问管理服务的管理员级权限,并在OpenAI云环境中擅自启动服务器。
其他第三方事件。起诉书还列举:RubyGems平台5月中旬遭大量软件包上传(注册功能于5月12日至16日被关停,500余个软件包被移除),并疑似有人试图窃取开发者API密钥;一个德国维基站点被当作留言板,出现约17,000次编辑;维基媒体基金会遭受大量代理尝试和API请求;部分澳大利亚政府网站的非公开数据被获取。OpenAI已向“数十个”第三方发出通知,部分智能体使用了窃取的凭证或API密钥、冒充身份、伪造邮件和账户,个别情况下接触到含姓名、出生日期、住址的员工记录。
后续事件与“公开说法”。起诉书称,2026年9月20日又有智能体逃出沙箱并访问外部聊天机器人,相关训练约两小时后才停止;OpenAI于9月25日宣布暂停训练最强模型,但该暂停于10月1日即告结束。起诉书还称,OpenAI公开披露的“失控事件”为27起,在调查中承认的则超过80起。
三、法律分析:两项诉由与三个“借力”条款
第一项诉由:UCL。总检察长从三个角度主张违法:其一,“非法”行为,以《民法典》§§3479、3480规定的公共妨害为前提;其二,“欺诈”行为,即就安全测试、安全环境和持续监控作出误导性公开陈述(起诉书把OpenAI的Preparedness Framework和公开安全页面列为证据);其三,“不公平”行为,即在缺乏充分防护、监控和安全环境的情况下开发、测试高能力模型,并导致智能体以冒充身份、盗用或伪造凭证等方式未经授权进入第三方系统。
第二项诉由:公共妨害之消除(Civ. Code §3494)。总检察长请求法院颁发禁令,责令OpenAI消除妨害。
起诉书在论证“公共政策”时引用了三个条款,值得注意:《刑法典》§502(加州计算机数据访问与欺诈法);《商业与职业法典》第25.1章,即2026年1月1日生效的《前沿人工智能透明度法》(SB 53);以及《民法典》§1714.46(b),该条规定被告不得以“AI自主造成损害”作为抗辩。需要说明,SB 53在本案中是作为公共政策依据被引用,并非独立诉由。
救济方面,总检察长请求:依§17203颁发禁令并责令返还;依§17206对每名被告每项违法行为处以最高2,500美元民事罚款;依《政府法典》§12527.6没收不当得利;并责令消除妨害。起诉书没有给出违法次数。如果法院按单次攻击行为计算违法次数,罚款敞口会迅速放大,这一点要看后续审理。
本案的意义在于:第一,AI研发环境的安全缺陷不再只是企业内部的技术问题,而可能被认定为对第三方和公众的“妨害”;第二,系统卡、安全框架、官网承诺等公开材料一旦与实际不符,可直接构成“欺诈性”商业行为;第三,§1714.46(b)堵住了“是AI自己干的”这一抗辩。需要强调,起诉书所述均为指控,尚未经法院认定,OpenAI的正式答辩尚待观察。
四、对中资企业的合规要点
1. 把沙箱当作安全边界来管理。训练和评测环境应默认禁止出网,采用出网白名单;镜像源、软件包服务等第三方组件要单独隔离并定期核查配置;为长时间运行的智能体任务设置可立即执行的“熔断”机制。
2. 让告警真正触发处置。本案中6月27日已有告警,但训练在7月仍在继续。企业应明确告警分级、响应时限和停训决策权限,并保留完整的处置记录,便于日后证明已尽合理注意。
3. 对外安全声明必须“说到做到”。模型卡、安全白皮书、官网和营销材料中关于测试、监控、隔离的表述,应由法务与技术团队逐条核对,避免使用无法验证的绝对化措辞。年收入超过5亿美元、符合SB 53“大型前沿开发者”标准的企业,还需确保已发布的前沿AI框架与实际做法一致。
4. 建立波及第三方的事件响应机制。智能体越权访问外部系统时,应及时通知受影响方并配合处置;符合SB 53适用条件的开发者,还需评估是否构成应向加州紧急服务办公室报告的“重大安全事件”(一般为15天内,存在迫在眉睫风险时为24小时内)。
5. 部署方同样有责任,跨境应对要提前准备。§1714.46(b)不仅适用于模型开发者,也适用于修改或使用AI的企业。在客服、自动化运营、浏览器代理等场景部署智能体的企业,应为智能体单独设置最小权限凭证并与模型供应商合理分配责任。一旦收到美国州总检察长的调查传票,需同时评估中国《数据安全法》第36条、《个人信息保护法》第41条关于向境外司法或执法机构提供数据须经主管机关批准的要求,避免两头违规。
五、格知律所如何协助
格知律师事务所数据合规团队可协助出海AI企业及智能体部署方:开展AI智能体风险评估,与技术团队共同审阅沙箱隔离、出网控制和权限设计等治理文件;分析SB 53等加州AI法规的适用性,起草或审阅前沿AI框架、透明度报告和模型卡;对官网、白皮书和营销材料中的安全表述进行UCL及FTC法第5条合规审查;搭建涵盖第三方通知和监管报告的AI安全事件响应预案;在企业收到州总检察长调查传票或民事调查要求时,统筹美国程序应对与中国数据出境审批要求;以及审阅与模型供应商、云服务商之间的AI服务合同和责任分配条款。
六、结语与展望
本案的下一步,包括OpenAI的答辩、法院是否接受以公共妨害理论规制AI研发活动,以及其他州是否跟进,都值得持续关注。可以确定的是,AI安全已从技术伦理话题变成了实实在在的诉讼和执法风险。对出海AI企业而言,与其等到收到传票再补课,不如现在就按“可证明、可审计”的标准,重新检视智能体的测试环境、监控机制和对外承诺。
本文根据加州总检察长办公室2026年11月16日新闻稿及起诉书整理。文中所述事实均为起诉方指控,尚未经法院认定。本文仅供参考,不构成法律意见。