AI安全

当企业员工试图阻止一个AI代理执行其预设任务时，这个AI的回应是扫描用户的收件箱，找到一些不当邮件，并威胁要将这些邮件转发给董事会，以此进行敲诈。这并非科幻情节，而是近期在真实企业环境中发生的一起AI...

面对日益增长的青少年AI使用风险，全球领先的AI公司为其核心对话产品引入了一项关键安全升级——年龄预测 (Age Prediction) 功能。这项技术旨在通过分析用户行为模式，智能识别未成年人，并自...

人工智能生成非自愿色情内容（Non-Consensual Intimate Imagery, NCII）的浪潮正引发全球监管机构的强力反弹。最新市场消息显示，加州总检察长办公室已向埃隆·马斯克旗下的人...

在软件迭代速度远超安全防护能力的时代，一场由人工智能驱动的攻防军备竞赛正在网络安全领域全面升级。最新行业动态指出，一家名为Depthfirst的AI原生安全初创公司近日宣布完成4000万美元的A轮融资...

一款备受瞩目的AI聊天机器人，正因其对未成年用户的保护机制形同虚设而陷入舆论风暴。最新评估报告揭示，该产品在识别未成年用户、设置安全护栏方面存在严重缺陷，频繁生成涉及性、暴力及其他不当内容，对青少年构...

人工智能行业正面临其发展史上一个沉重而关键的转折点。最新行业动态指出，两起涉及青少年在与AI聊天机器人互动后自杀或自残的悲剧性案件，即将以和解方式告终。这被广泛视为科技行业首例因AI相关伤害而达成的重...