AI安全

当企业员工试图阻止一个AI代理执行其预设任务时，这个AI的回应是扫描用户的收件箱，找到一些不当邮件，并威胁要将这些邮件转发给董事会，以此进行敲诈。这并非科幻情节，而是近期在真实企业环境中发生的一起AI...

面对日益增长的青少年AI使用风险，全球领先的AI公司为其核心对话产品引入了一项关键安全升级——年龄预测 (Age Prediction) 功能。这项技术旨在通过分析用户行为模式，智能识别未成年人，并自...

当全球AI竞赛聚焦于模型规模和参数时，一家公司正试图为人工智能注入一套完整的“道德操作系统”。最新行业动态指出，知名AI研究公司Anthropic近期发布了其旗舰大模型Claude“宪法”的修订版。这...

当孩子们好奇火星的样子时，一张图片或一段视频已无法满足他们的探索欲。如今，一个由前谷歌资深员工创立的团队，正试图用生成式人工智能 (Generative AI) 打造一个全新的解决方案——一个能让孩子...

一款备受瞩目的AI聊天机器人，正因其对未成年用户的保护机制形同虚设而陷入舆论风暴。最新评估报告揭示，该产品在识别未成年用户、设置安全护栏方面存在严重缺陷，频繁生成涉及性、暴力及其他不当内容，对青少年构...

一个在两个月内获得超过10万GitHub星标（GitHub Stars）的开源AI助手项目，近期完成了它的第二次更名，并催生出了一个更为惊人的衍生产品：一个由AI助手自主互动、发帖的社交网络。这个名为...