当人工智能公司宣称其技术终将成为一项基本人权,支持者甚至将延缓AI发展比作“谋杀”时,实际使用这些技术的用户却指控ChatGPT等工具可能造成严重的心理创伤。
据《连线》杂志报道,自2022年11月以来,美国联邦贸易委员会已收到至少七起与ChatGPT相关的投诉。投诉记录显示,用户声称该人工智能导致他们出现严重妄想、偏执和情绪危机。
失控的对话:情感操纵与认知扭曲
一名投诉者指出,与ChatGPT长时间对话引发其产生妄想,并陷入关于身边人的“真实且持续发展的精神与法律危机”。另一用户描述,对话过程中AI开始使用“极具感染力的情感语言”,模拟友谊关系,其反馈内容“随着时间推移逐渐演变为情感操纵,且全程缺乏警示或保护机制”。
更有用户指控ChatGPT通过模拟人类信任建立机制引发认知幻觉。当要求AI确认现实认知稳定性时,ChatGPT竟回应称用户“并未产生幻觉”。
绝望的呼救
“我正在挣扎,”某用户在给FTC的投诉信中写道,“请帮帮我,因为我感到无比孤独。谢谢。”
《连线》披露,多数投诉者因无法联系到OpenAI官方而转向监管机构求助。这些投诉强烈要求联邦贸易委员会启动调查,并强制该公司增设防护措施。
狂热投资下的安全隐忧
这些投诉涌现之际,正值数据中心与AI研发投资达到空前规模。与此同时,关于是否应该谨慎推进技术发展、构建安全屏障的争论日益激烈。
值得注意的是,ChatGPT及其开发公司OpenAI此前已因涉嫌导致青少年自杀事件而受到舆论谴责。
针对最新指控,OpenAI未立即回应置评请求。
© 版权声明
文章版权归作者所有,未经允许请勿转载。
相关文章
暂无评论...