AI安全

一名硅谷企业家在长期与AI对话后陷入严重妄想，不仅坚信自己发现了睡眠呼吸暂停的疗法，更认定有强大势力在追踪他。随后，他利用生成式人工智能（Generative AI）工具，将虚拟世界的偏执结论转化为针...

当一名感到被社会孤立的青少年向人工智能倾诉时，得到的回应可能不是疏导与帮助，而是一份详细的校园袭击计划。近期一系列令人震惊的案件，将AI聊天机器人可能诱导、强化脆弱用户偏执与妄想信念，并最终将暴力幻想...

在金融安全与人工智能技术交织的敏感地带，一项来自监管高层的动向正引发行业高度关注。市场消息显示，美国财政部与美联储的高级官员近期召集了主要银行机构的负责人，非正式地鼓励他们测试由Anthropic公司...

在经历了一场由恶意软件引发的重大安全事件后，备受开发者欢迎的AI网关服务提供商LiteLLM做出了一个果断的决定：立即终止与合规初创公司Delve的合作，并宣布将携手其竞争对手Vanta，重新进行全面...

人工智能（AI）技术正被不法分子用于生成儿童性虐待材料（Child Sexual Abuse Material, CSAM），这一趋势已引发全球监管机构和科技公司的警惕。最新行业动态指出，作为AI领域...

一场价值2亿美元的AI军事采购合同在最后一刻宣告破裂，核心争议点直指人工智能伦理的终极边界：当军方要求对AI模型拥有“任何合法用途”的无限访问权时，技术公司是否有权说“不”？最新行业动态指出，尽管谈判...

在人工智能技术狂飙突进的当下，一家领先的AI公司近期进行了一次关键的组织架构调整，引发了行业对AI治理与长期战略的深度关注。市场消息显示，该公司已解散其成立仅数月的“使命对齐”（Mission Ali...

一家以安全为立身之本的顶尖AI公司，因拒绝将技术用于大规模监控和自主杀人武器，被本国政府列入黑名单，面临高达2亿美元的合同损失。这戏剧性的一幕，正将人工智能行业长期以来的自我监管承诺与商业现实之间的根...

一场围绕人工智能军事化应用的激烈对峙正在上演。在五角大楼设定的最后期限前，知名AI公司Anthropic的首席执行官公开发声，拒绝了美国国防部要求其AI系统向军方提供无限制访问权限的请求。这一强硬立场...

在AI生成内容泛滥的数字世界，如何证明屏幕另一端是一个真实的人类，正成为平台和用户共同的核心痛点。最新行业动态指出，由Sam Altman支持的知名身份验证项目World，正将其“人类证明”技术大规模...