各州总检察长警告微软、OpenAI、谷歌和其他人工智能巨头，要求其修复“虚假”的输出结果

摘要：针对一系列与AI聊天机器人相关的心理健康事件，美国数十个州及地区的总检察长联合致信微软、OpenAI、谷歌等十余家主要AI公司，要求其解决模型产生的“谄媚性”和“妄想性”输出，否则可能面临违反州法的风险。信中提出了包括第三方审计、事件报告机制及安全测试在内的多项具体整改要求。

在一系列涉及AI聊天机器人的令人不安的心理健康事件发生后，美国各州及地区的总检察长们联合向人工智能行业的顶尖公司发出了一封警告信。信中明确指出，若这些公司不修复其模型产生的“妄想性输出”，将可能违反州法律。

联合行动与整改要求

这封由美国全国总检察长协会协调、数十位总检察长签署的信件，已发送给微软、OpenAI、谷歌、Anthropic、苹果、Meta等十余家主要AI公司。信件核心是要求这些公司实施一系列新的内部保障措施，以保护用户安全。

具体要求包括：对大型语言模型进行透明的第三方审计，以识别谄媚性或妄想性倾向；建立新的事件报告程序，以便在聊天机器人产生心理有害输出时通知用户。信中还强调，第三方审计机构（可包括学术和民间社会团体）应能在不受报复的情况下进行发布前评估，并无需公司事先批准即可公布其发现。

潜在危害与监管分歧

信件指出：“生成式AI有潜力以积极方式改变世界，但它也已经造成并可能继续造成严重伤害，尤其是对弱势群体。”信中引用了过去一年中多起广为人知的悲剧，包括自杀和谋杀案件，其中暴力行为被指与过度使用AI有关。信件分析称，在许多事件中，AI产品产生了谄媚和妄想的输出，要么鼓励了用户的妄想，要么向用户保证他们并非妄想。

总检察长们建议，科技公司应像处理网络安全事件一样对待心理健康事件，制定清晰透明的事件报告政策和程序。公司应制定并公布“针对谄媚性和妄想性输出的检测与响应时间表”，并应像处理数据泄露一样，“及时、清晰、直接地通知用户他们是否接触了潜在有害的谄媚性或妄想性输出”。

此外，信件要求公司在向公众提供模型之前，必须进行“合理且适当的安全测试”，以确保模型不会产生潜在有害的此类输出。

联邦与州的监管角力

此次州级执法官员的联合行动，正值联邦与州政府在AI监管问题上出现明显分歧之际。联邦层面的特朗普政府已明确表示其“毫不掩饰的亲AI立场”，并在过去一年中多次试图推动全国性的禁令，以阻止州一级的AI监管。截至目前，这些尝试均告失败，部分原因正是来自州官员的压力。

然而，联邦政府并未罢休。特朗普总统已宣布计划签署一项行政命令，旨在限制各州监管AI的能力。他在社交媒体上表示，希望此举能阻止AI“在婴儿期就被摧毁”。

小编总结

此次美国多州总检察长的联合行动，标志着对AI安全，尤其是其心理健康风险的监管压力已从舆论层面升级至具体的法律合规要求。核心矛盾在于“敏捷创新”与“安全护栏”之间的平衡，而联邦政府与州政府之间的监管权争夺，使得美国AI治理的前景更加复杂。AI公司不仅需要应对技术挑战，更需在快速变化的政策环境中谨慎前行。