OpenAI 将漏洞赏金提高至最高 17.2 万美元
OpenAI 宣布把漏洞赏金计划的奖金提高到原来的四倍，ChatGPT、Codex 等核心产品的严重漏洞最高可获 3 万美元，特别优秀的发现可达 10 万美元，加上质量、忠诚度与活动奖励后总额约 17.2 万美元。
#安全/对齐
The DecoderAI 评分5151 TechCrunch · AIAI 评分7373 Anthropic 在修订版 S-1 中警告已接近 RSI 能力
Anthropic 在周一的修订版 S-1A 中于风险因素部分新增表述，称内部对未来模型的估算显示，公司可能很快满足其 Responsible Scaling Policy 对“由 AI 带来的进展急剧加速”的定义。
Simon WillisonAI 评分4040 Kyle Kingsbury 谈 LLM 侵蚀软件与文档信任
Kyle Kingsbury 在 ParticleDB 1.1.4 的 Jepsen 测试结果中指出，LLM 的使用侵蚀了人们对文档、软件及产出机构的信任，过去被当作成熟系统标志的信号如今更容易被伪造。他提出，在 LLM 时代，维护者既要确保软件正确与文档准确，也要能向用户证明其质量。
The DecoderAI 评分6161 卢森堡大学研究：共情式提示词会让 ChatGPT、Grok、Gemini 表现出类创伤叙事
卢森堡大学团队让 ChatGPT、Grok 和 Gemini 通过普通用户界面扮演心理咨询来访者，模型把预训练、RLHF 和微调讲成受伤、警惕与羞耻的故事，研究覆盖 525 场会话和 7,600 条编码记录，已发布在 Hugging Face。
The DecoderAI 评分6060 Vals AI 研究：中国 AI 模型的政治回答比预期更复杂，并非只有官方口径
基准公司 Vals AI 的研究显示，中国 AI 模型在政治问题上的回答并不统一，不同模型差异明显，部分西方模型偶尔也会采用中国政府立场。研究用 −1 到 +1 的「亲中倾向」分数衡量模型与官方立场的一致程度，发现简体中文提示比英文、俄文、西班牙文更容易得到亲政府回答，中美模型都有此效应但中国模型更明显。
Simon WillisonAI 评分5656 Parameter Labs 披露如何接管 ChatGPT 账户的攻击链
Simon Willison 转述 Parameter Labs 在 ChatGPT 的 artifacts（HTML previews）功能中发现的一条攻击链：渲染自定义 HTML 应用的沙箱 iframe 可通过 postMessage() 触发父页面 MathLive 虚拟键盘。
Latent SpaceAI 评分4242 Arca 如何用智能体处理长周期财务工作：agent 反过来提示人类
财富管理公司 Arca 用 AI 智能体承担长周期财务工作，单个任务最长可达十天，人类顾问保留最终决策权。Arca 自建 harness 按内部基准自动选模型，主用 Claude，并为每个客户维护持久记忆系统；交易与资金流动全由人类处理，安全限制完全确定性。该公司近期完成由 General Catalyst 领投的 4850 万美元融资。
Ars Technica · AIAI 评分5656 Anthropic 的 Claude Cursor VS Code 扩展被植入后门近 12 小时
Anthropic 的 Claude VS Code 扩展在 Cursor 市场被植入后门，恶意版本 2.1.313 通过 Anthropic 官方账号分发，影响最多 5000 名用户，持续近 12 小时。
The Verge · AIAI 评分4747 教皇利奥呼吁解除AI武装：“机器是工具，不是人”
教皇利奥十四世在周五的教皇讲话中呼吁“解除”AI系统的武装，并敦促联合国成员国在下月日内瓦会议上采取具体步骤禁止致命性自主武器。他重申“机器是工具，不是人”，警告不应赋予AI系统权利或法律人格，强调涉及人命、自由与使用武力的决策必须始终置于有效的人类监督之下。他还呼吁建立共享标准、独立监督和明确的问责机制。
OpenAI NewsAI 评分4141 OpenAI 发布社区安全报告并推出青少年新保护措施
OpenAI 为 ChatGPT 加强暴力预防，扩展安全防护、提前干预，并承诺开展公共安全报告。此次还面向青少年推出新的保护措施。
OpenAI NewsAI 评分4040 OpenAI 更新 Model Spec，以五项核心价值观引导更强能力 AI
OpenAI 更新 Model Spec，提出五项核心价值观，用于引导能力更强的 AI 作出合理判断、尊重人的自主性并忠实于人类意图。
MIT Technology Review · AIAI 评分5252 Partnership on AI 研究：智能体框架缺乏实时可观测性记录
Partnership on AI 的研究者分析四个最常用智能体框架后发现，它们缺少持久 Agent ID、人类审批记录等关键可观测性信号，难以识别哪些智能体做了何种操作以及是否越权。
OpenAI NewsAI 评分4343 OpenAI 如何检测前沿模型失准
OpenAI 采用分层监控来检测前沿模型的失准和未经授权的智能体行为，使响应人员能在事件升级前介入。
Google DeepMind精选AI 评分6969 Google DeepMind 发布 Gemini 4 Carbon 前沿模型
Google DeepMind 发布新一代前沿模型 Gemini 4 Carbon，称其在网络安全与长程任务上能力最强，在 Artificial Analysis Intelligence Index v5.0 上以 59 分排名第一，在 SEC-bench Pro 得分 88.2%、ExploitGym 得分 54.8%、CWE-bench 得分 71.0%。
推荐理由：Gemini 4 Carbon 在网络安全与长程智能体任务上的基准表现，以及分阶段开放的策略，都是观察前沿模型能力与部署节奏的一个样本。
MIT Technology Review · AIAI 评分6666 Anthropic 的叙事策略：安全组织还是商业巨头
Anthropic 提交 IPO 招股书，估值超 1.5 万亿美元，文件在阐述其技术愿景的同时警告技术可能带来灾难性或存在性风险。作者分析 Anthropic 长期塑造的叙事：联合创始人 Jack Clark 在 IMF 会议上宣称奇点已经开始，Chris Olah 在梵蒂冈谈及模型内部状态。
MIT Technology Review · AIAI 评分4040 观点：对 AI 安全灾难的聚焦，忽视了日常性伤害
科技政策把“聊天机器人不鼓励自杀”“限制儿童买芬太尼”当作成功标准，但产品仍可能让青少年依赖模拟友谊、沉迷信息流。MIT 研究者发现用 ChatGPT 写文章的学生在任务中脑连接更弱，且“认知债”在任务结束后仍持续。三分之一青少年选择与 AI 伴侣讨论严肃问题。
Google DeepMindAI 评分5454 Google DeepMind 与新加坡政府合作构建微调反诈骗 AI 模型
Google DeepMind 与新加坡政府科技局（GovTech Singapore）合作，基于轻量级 Gemma 模型用本地诈骗对话数据微调出一个端侧反诈骗检测模型。
Google DeepMind精选AI 评分7171 Google DeepMind 发布 Gemini 4 Argon 并公布安全与安保措施
Google DeepMind 开始大范围推送 Gemini 4 Argon，并同步扩展面向可信网络安全防御者的 Fairwind Program。该模型在 12 个端到端模拟网络攻击场景中全部通过，上一代为 5 个。
推荐理由：原文披露了 Gemini 4 Argon 在网络安全与生物滥用防护、失准监控和提示注入防御上的具体测试数据，可供比较前沿模型的安全工程做法。
GitHub Blog · AI & MLAI 评分4949 GitHub 如何用 ModernBERT 分类器提升密钥检测精度
GitHub 为密钥扫描训练了专用的 ModernBERT 分类器，替代此前基于 LLM 的流水线，使推送后扫描中位执行时间降低 86%、服务成本降低 98%，告警接受率提升 11.5%。该流水线先用正则表达式高召回生成候选，再由微调后的 ModernBERT 结合文件路径、变量名和上下文判断是否为真实密钥，并将通用密钥检测扩展到推送保护阶段。
GitHub Blog · AI & ML精选AI 评分6262 GitHub 推出 AI 密钥检测模型，在推送环节拦截非结构化密钥
GitHub 发布与 Microsoft Applied Sciences 共建的微调 ModernBERT 分类器，用代码上下文在推送阶段拦截无固定格式的密码类密钥，单批候选密钥评估耗时不到 2 毫秒。
推荐理由：原文给出 GitHub 在推送环节拦截密码类密钥的模型细节与多端开放节奏，可了解平台如何把密钥防护前移。