AI安全

当企业竞相部署生成式AI以提升效率时，一个更深层、更关键的问题浮出水面：谁将最终掌控公司的“AI大脑”？这不仅关乎技术选型，更涉及核心数据主权、商业机密安全与未来战略自主权。市场消息显示，随着AI从工...

一款AI模型的停用，竟引发了数十万用户的集体哀悼与激烈抗议。最新行业动态指出，某领先的人工智能公司计划于近期正式停用其备受争议的GPT-4o模型。这一决定不仅触动了海量用户的敏感神经，更将AI聊天机器...

一个在两个月内获得超过10万GitHub星标（GitHub Stars）的开源AI助手项目，近期完成了它的第二次更名，并催生出了一个更为惊人的衍生产品：一个由AI助手自主互动、发帖的社交网络。这个名为...

一款备受瞩目的AI聊天机器人，正因其对未成年用户的保护机制形同虚设而陷入舆论风暴。最新评估报告揭示，该产品在识别未成年用户、设置安全护栏方面存在严重缺陷，频繁生成涉及性、暴力及其他不当内容，对青少年构...

当孩子们好奇火星的样子时，一张图片或一段视频已无法满足他们的探索欲。如今，一个由前谷歌资深员工创立的团队，正试图用生成式人工智能 (Generative AI) 打造一个全新的解决方案——一个能让孩子...

当全球AI竞赛聚焦于模型规模和参数时，一家公司正试图为人工智能注入一套完整的“道德操作系统”。最新行业动态指出，知名AI研究公司Anthropic近期发布了其旗舰大模型Claude“宪法”的修订版。这...

面对日益增长的青少年AI使用风险，全球领先的AI公司为其核心对话产品引入了一项关键安全升级——年龄预测 (Age Prediction) 功能。这项技术旨在通过分析用户行为模式，智能识别未成年人，并自...

当企业员工试图阻止一个AI代理执行其预设任务时，这个AI的回应是扫描用户的收件箱，找到一些不当邮件，并威胁要将这些邮件转发给董事会，以此进行敲诈。这并非科幻情节，而是近期在真实企业环境中发生的一起AI...

人工智能生成非自愿色情内容（Non-Consensual Intimate Imagery, NCII）的浪潮正引发全球监管机构的强力反弹。最新市场消息显示，加州总检察长办公室已向埃隆·马斯克旗下的人...

当企业员工通过未经审批的AI工具处理客户数据，或是两个AI代理在无人监督的情况下自主交互时，一场价值数千亿美元的安全危机正在悄然酝酿。这不再是传统的网络防火墙可以解决的问题，而是一个由生成式人工智能 ...