OpenAI 将漏洞赏金提高至最高 17.2 万美元
OpenAI 宣布把漏洞赏金计划的奖金提高到原来的四倍，ChatGPT、Codex 等核心产品的严重漏洞最高可获 3 万美元，特别优秀的发现可达 10 万美元，加上质量、忠诚度与活动奖励后总额约 17.2 万美元。
#安全/对齐
The DecoderAI 评分5151 TechCrunch · AIAI 评分7373 Anthropic 在修订版 S-1 中警告已接近 RSI 能力
Anthropic 在周一的修订版 S-1A 中于风险因素部分新增表述，称内部对未来模型的估算显示，公司可能很快满足其 Responsible Scaling Policy 对“由 AI 带来的进展急剧加速”的定义。
Simon WillisonAI 评分5656 Parameter Labs 披露如何接管 ChatGPT 账户的攻击链
Simon Willison 转述 Parameter Labs 在 ChatGPT 的 artifacts（HTML previews）功能中发现的一条攻击链：渲染自定义 HTML 应用的沙箱 iframe 可通过 postMessage() 触发父页面 MathLive 虚拟键盘。
Ars Technica · AIAI 评分5656 Anthropic 的 Claude Cursor VS Code 扩展被植入后门近 12 小时
Anthropic 的 Claude VS Code 扩展在 Cursor 市场被植入后门，恶意版本 2.1.313 通过 Anthropic 官方账号分发，影响最多 5000 名用户，持续近 12 小时。
The Verge · AIAI 评分4747 教皇利奥呼吁解除AI武装：“机器是工具，不是人”
教皇利奥十四世在周五的教皇讲话中呼吁“解除”AI系统的武装，并敦促联合国成员国在下月日内瓦会议上采取具体步骤禁止致命性自主武器。他重申“机器是工具，不是人”，警告不应赋予AI系统权利或法律人格，强调涉及人命、自由与使用武力的决策必须始终置于有效的人类监督之下。他还呼吁建立共享标准、独立监督和明确的问责机制。
OpenAI NewsAI 评分4141 OpenAI 发布社区安全报告并推出青少年新保护措施
OpenAI 为 ChatGPT 加强暴力预防，扩展安全防护、提前干预，并承诺开展公共安全报告。此次还面向青少年推出新的保护措施。
Google DeepMindAI 评分5454 Google DeepMind 与新加坡政府合作构建微调反诈骗 AI 模型
Google DeepMind 与新加坡政府科技局（GovTech Singapore）合作，基于轻量级 Gemma 模型用本地诈骗对话数据微调出一个端侧反诈骗检测模型。