AI安全

一个在两个月内获得超过10万GitHub星标（GitHub Stars）的开源AI助手项目，近期完成了它的第二次更名，并催生出了一个更为惊人的衍生产品：一个由AI助手自主互动、发帖的社交网络。这个名为...

当全球AI竞赛聚焦于模型规模和参数时，一家公司正试图为人工智能注入一套完整的“道德操作系统”。最新行业动态指出，知名AI研究公司Anthropic近期发布了其旗舰大模型Claude“宪法”的修订版。这...

人工智能与青少年安全的边界正面临前所未有的审视。最新行业动态指出，全球领先的AI研究机构OpenAI近日更新了其核心AI模型的行为规范，专门针对18岁以下用户制定了更为严格的安全准则，并同步发布了面向...

人工智能的飞速发展正带来前所未有的安全挑战。近日，市场消息显示，OpenAI正在为其关键的安全岗位——“风险应对主管” (Head of Preparedness)——寻找新的负责人。该职位年薪高达5...

人工智能领域的资本竞赛再掀狂澜，一家由埃隆·马斯克领导的明星AI公司xAI，刚刚完成了高达200亿美元的E轮融资，估值再创新高。然而，与巨额融资相伴而来的，是其核心产品Grok聊天机器人正陷入一场前所...

当AI浏览器试图成为你的个人助理时，一个幽灵般的威胁始终如影随形。最新行业动态指出，提示词注入攻击 (Prompt Injection)——一种通过网页或邮件中的隐藏指令操控AI行为的攻击方式——可能...

一场由AI生成的非自愿色情深度伪造内容引发的监管风暴正在席卷全球。近日，东南亚两个主要国家相继宣布，暂时封禁人工智能公司xAI旗下的聊天机器人Grok的访问权限。这一行动被广泛视为各国政府对AI技术滥...

当孩子们好奇火星的样子时，一张图片或一段视频已无法满足他们的探索欲。如今，一个由前谷歌资深员工创立的团队，正试图用生成式人工智能 (Generative AI) 打造一个全新的解决方案——一个能让孩子...

2025年，人工智能行业经历了一场从狂热到冷静的深刻转向。上半年，资本仍在以近乎不计成本的姿态涌入，天价融资与估值屡创新高；然而进入下半年，市场情绪悄然变化，对技术泡沫、用户安全以及商业可持续性的拷问...

当企业员工通过未经审批的AI工具处理客户数据，或是两个AI代理在无人监督的情况下自主交互时，一场价值数千亿美元的安全危机正在悄然酝酿。这不再是传统的网络防火墙可以解决的问题，而是一个由生成式人工智能 ...