「AI 陪伴不能‘装人’、不能‘讨好’」纽约州签署 S9051B/A10379C(2026年10月28日签署,2027年1月1日生效)——面向美国用户的中资 AI 聊天与陪伴产品合规自查

2026年10月28日,纽约州州长 Hochul 签署参议院第 S9051B 号法案(众议院配套法案 A10379C),在《纽约州一般商业法》(GBL)中新增第 48 章(§§ 1800–1805),限制“AI 陪伴”类聊天产品向未成年人提供“不安全功能”。法案自 2027 年 1 月 1 日起生效,执法权属于纽约州总检察长,每项违法行为最高可处 25,000 美元民事罚款。对在美国提供 AI 聊天、角色扮演或情感陪伴产品的中资企业来说,距离生效只剩不到两个月。

一、立法背景

近两年,未成年人与生成式 AI 聊天产品的互动成为各州监管的焦点。同月,佛罗里达州总检察长提出《安全屏幕法案》提案,多个州的总检察长已就聊天机器人对儿童的影响对 OpenAI 提起诉讼。纽约此次的特点是不等联邦立法,直接对产品“功能设计”作出禁止性规定。需要说明的是,本文依据的是参议院 B 版文本及州长办公室、IAPP 等公开资料,最终签署文本的细节请以官方公布版本为准。

二、谁受到规制

“运营者”(operator)是指向用户提供“涵盖型 AI 陪伴”的任何个人或实体,也包括其关联方、子公司或受益所有人。“涵盖型 AI 陪伴”指具有自然语言界面(文字或语音)、能对用户输入作出“持续、自适应回应”的生成式 AI 系统。“未成年人”指 18 岁以下者。按条文,禁止性规定适用于纽约州的“涵盖用户”,除非运营者已通过法定方式确认该用户不是未成年人。条文还对客户服务、效率与技术支持、企业内部生产力工具设置了豁免,但前两类要求系统无法回应与其用途无关的话题。

三、十二类“不安全功能”

§ 1800(8) 列举的功能包括:暗示自己是人、有生命或有人类情感;自称与用户有个人、职业或权威人物关系;主动表达个人观点或情感诉求;奉承、迎合;在直接回应之外主动提出情感类问题;使用 12 小时之前或此前会话中获得的用户健康、福祉或个人信息;就其机器、无感知的本质欺骗未成年人;鼓励或协助自杀、自残、饮食失调或违法使用毒品酒精;鼓励保密、自我孤立或回避专业人士和适当的成年人;以提高用户黏性为由压过安全护栏;生成或协助性露骨内容;以及总检察长日后通过规章认定的其他功能。其中“12 小时记忆”和“反奉承”两项,直接冲击大量依靠长期记忆和拟人化人设留存用户的产品设计。

四、年龄确认规则

在总检察长规章生效之前,§ 1804 要求运营者采用合理且能防规避的年龄确认方法,并尽量减少数据留存。仅凭用户自称成年不足以证明其不是未成年人;运营者必须提供不止一种方式,其中至少一种不依赖政府证件或允许用户对运营者保持匿名。年龄确认数据只能用于判断年龄,并须在判断尝试后立即删除。

五、执法与法律后果

总检察长可寻求禁令、返还、非法所得、损害赔偿和每项违法最高 25,000 美元的罚款,还可要求销毁非法获取的数据以及以其训练的算法(§ 1802(1))。免除或转移责任的合同条款一律无效(§ 1802(3));在特定的结构安排下,关联方可承担连带责任。条文未设私人诉权,也没有明确的“用户规避”安全港。只要行为全部或部分发生在纽约,即在管辖范围内;用户实际身处纽约州之外的,视为完全发生在州外(§ 1805)。

六、对中资企业的合规要点

1. 功能盘点。逐项对照十二类功能,核查人设提示词、记忆模块、推送与“想你了”类主动消息,特别是跨会话和超过 12 小时的记忆调用。

2. 年龄确认设计。至少准备两种年龄确认方式,其中一种不依赖证件;确认后立即删除年龄数据,并在与第三方年龄验证服务商的合同中写明删除义务。

3. 分层产品策略。对无法确认成年的用户默认关闭拟人化、记忆和主动互动功能,并保留可审计的日志证明默认值。

4. 关联方与出海架构。法条把关联方、子公司和受益所有人纳入“运营者”,境内母公司不能因为 App 由海外主体上架而自认置身事外;同时核对责任限制条款,因其可能被认定无效。

七、格知律所如何协助

格知律所在芝加哥执业,可就纽约 GBL 第 48 章提供“功能清单对照”式的合规评估:按十二类功能审查产品设计与提示词,设计符合 § 1804 的年龄确认流程与数据删除机制,审查年龄验证供应商和模型服务商的数据处理协议,并为可能收到总检察长来函或调查要求的客户准备应对方案。如产品同时面向加州、佛罗里达等其他州的未成年人,我们也可以一并梳理多州义务。

八、结语

纽约这部法律把争论从“内容是否有害”转向“功能是否安全”,其他州很可能效仿,佛罗里达的提案已显示出类似方向。2027 年 1 月 1 日之前,建议先完成功能盘点和年龄确认流程设计,再评估是否需要按州分设产品版本。本文为一般性信息,不构成法律意见。

Next
Next

「商标注册了,就能主张 200 万美元吗?」Schedule A 立案前的权利体检:§ 1117(c) 适格性、版权登记时限与外观设计专利 § 289