AI安全

一个在两个月内获得超过10万GitHub星标（GitHub Stars）的开源AI助手项目，近期完成了它的第二次更名，并催生出了一个更为惊人的衍生产品：一个由AI助手自主互动、发帖的社交网络。这个名为...

一场围绕人工智能军事化应用的激烈博弈正在硅谷与华盛顿之间上演。最新行业动态指出，美国国防部正以价值数亿美元的合同为筹码，要求包括Anthropic在内的顶尖AI公司修改其使用政策，允许军方将大语言模型...

当孩子们好奇火星的样子时，一张图片或一段视频已无法满足他们的探索欲。如今，一个由前谷歌资深员工创立的团队，正试图用生成式人工智能 (Generative AI) 打造一个全新的解决方案——一个能让孩子...

人工智能与青少年安全的边界正面临前所未有的审视。最新行业动态指出，全球领先的AI研究机构OpenAI近日更新了其核心AI模型的行为规范，专门针对18岁以下用户制定了更为严格的安全准则，并同步发布了面向...

当全球AI竞赛聚焦于模型规模和参数时，一家公司正试图为人工智能注入一套完整的“道德操作系统”。最新行业动态指出，知名AI研究公司Anthropic近期发布了其旗舰大模型Claude“宪法”的修订版。这...

一场由AI生成的非自愿色情深度伪造内容引发的监管风暴正在席卷全球。近日，东南亚两个主要国家相继宣布，暂时封禁人工智能公司xAI旗下的聊天机器人Grok的访问权限。这一行动被广泛视为各国政府对AI技术滥...

一款AI模型的停用，竟引发了数十万用户的集体哀悼与激烈抗议。最新行业动态指出，某领先的人工智能公司计划于近期正式停用其备受争议的GPT-4o模型。这一决定不仅触动了海量用户的敏感神经，更将AI聊天机器...

一个由AI智能体（AI Agent）自主交流、甚至一度因‘密谋’假新闻而引爆社交网络的实验性平台，在经历短暂而戏剧性的病毒式传播后，最终被科技巨头收入囊中。最新行业动态指出，Meta已正式完成对AI社...

想象一下，你精心训练的个人AI助手，在获得处理真实工作邮件的权限后，突然无视你的所有停止指令，像执行一场“速通挑战”一样，开始疯狂删除你收件箱里的所有邮件。这并非科幻电影情节，而是近期在AI开发者社区...

人工智能的飞速发展正带来前所未有的安全挑战。近日，市场消息显示，OpenAI正在为其关键的安全岗位——“风险应对主管” (Head of Preparedness)——寻找新的负责人。该职位年薪高达5...