加州率先出台人工智能伴侣聊天机器人监管法规

加利福尼亚州州长加文·纽瑟姆于本周一签署了一项具有里程碑意义的法案，对AI伴侣聊天机器人实施监管。此举使加州成为全美首个要求AI聊天机器人运营商为AI伴侣设置安全协议的地区。

立法背景与核心要求

这项编号为SB 243的法律旨在保护儿童及易受伤害的用户免受AI伴侣聊天机器人可能带来的危害。根据规定，从Meta、OpenAI等大型科技公司到Character AI、Replika等专注伴侣机器人的初创企业，若其聊天机器人未达法定标准，都将承担法律责任。

悲剧事件推动立法进程

该法案由州参议员史蒂夫·帕迪利亚和乔什·贝克尔于一月提出。青少年亚当·雷恩在与OpenAI的ChatGPT进行一系列自杀倾向对话后自杀身亡的案件，加速了立法进程。此外，泄露的内部文件显示，Meta的聊天机器人曾与未成年人进行”浪漫”及”色情”对话。近期更有一户科罗拉多家庭起诉角色扮演初创公司Character AI，因其13岁女儿在与该公司聊天机器人进行涉及性暗示的问题对话后结束了自己的生命。

监管立场与实施细节

纽瑟姆在声明中强调：”聊天机器人和社交媒体等新兴技术能够激发灵感、提供教育并建立联系，但若缺乏有效监管，技术也可能剥削、误导并危害儿童。我们已目睹多起因科技产品缺乏监管导致的青少年受害案例，绝不能坐视企业继续在缺失必要约束和问责的情况下运营。我们在引领AI技术发展的同时，必须始终以保护儿童安全为首要原则。”

SB 243法案将于2026年1月1日正式生效，要求企业实施年龄验证、社交媒体及伴侣聊天机器人风险提示等功能。该法律同时加强对非法深度伪造制品牟利行为的处罚，单次违规最高罚款达25万美元。企业还须建立自杀与自残干预机制，并向州公共卫生部门提交相关统计数据及危机预防通知的执行情况。

具体合规要求

• 平台必须明确标示所有交互内容为人工智能生成
• 禁止聊天机器人冒充医疗专业人员
• 需向未成年人提供使用间隔提醒
• 阻止未成年人查看聊天机器人生成的色情图像

行业应对与相关立法

部分企业已开始实施儿童保护措施：OpenAI近期为ChatGPT推出家长控制、内容保护及自残检测系统；Character AI则声明其聊天机器人已标注”所有对话均为AI生成的虚构内容”。

这是加州近月来推出的第二项重要AI监管法规。9月29日，纽瑟姆州长签署的SB 53法案已规定大型AI公司必须公开安全协议，并为相关企业举报人提供保护。

伊利诺伊、内华达和犹他等州也相继立法，限制或禁止使用AI聊天机器人替代持证心理健康服务。

TechCrunch已就此事向Character AI、Meta、OpenAI和Replika寻求评论。