跳到正文

技术方向

部署工程 最新动态

怎么把模型跑得更快更省钱:推理加速、显存与成本、服务部署与基础设施选型。

7 条精选近 30 天 6 条共收录 41 条

更新

部署工程的精选

今天11月4日周三第 1–7 条
  1. AWS Machine Learning Blog64

    如何用 Bedrock AgentCore Gateway 完成 ServiceNow 的 OBO 令牌交换

    AWS 发布教程,介绍如何将 Amazon Bedrock AgentCore Gateway 配置为对 Microsoft Entra ID 做 on-behalf-of(OBO)令牌交换,让 AI 智能体调用 ServiceNow REST API 时保留发起用户的身份。

    推荐理由:教程给出了在 AgentCore Gateway 上配置 OBO 令牌交换的完整步骤,可供构建企业 API 智能体时参考身份透传方案。

10月30日周五
  1. NVIDIA Blog62

    NVIDIA 介绍智能体 AI 如何参与 SETI 外星信号搜寻

    NVIDIA 博客介绍 Breakthrough Listen 与 SETI Institute 把智能体 AI 引入外星信号日常搜寻,在 Allen Telescope Array 上通过自然语言指令即可操控望远镜、校正数据并接入 AI 模型。

    推荐理由:材料交代了望远镜数据流与智能体调度的具体分工,可了解实时处理链路在观测场景中的实际用法。

10月22日周四
  1. NVIDIA Blog61

    NVIDIA 发布 Minerva,为 AI 工厂提供端到端可观测性

    NVIDIA 发布 AIOps 平台 Minerva,汇总 NVIDIA GPU、网络、存储、调度器和工作负载的遥测数据,并用监督与无监督机器学习分析每小时数十亿个数据点,定位影响训练和推理作业的故障组件。

    推荐理由:原文说明 Minerva 如何打通 GPU、网络与作业遥测并以知识图谱定位故障,读者可据此理解 AI 工厂运维链路的变化。

10月14日周三
  1. Google DeepMind71

    Google DeepMind 发布 Gemini 4 Argon 并公布安全与安保措施

    Google DeepMind 开始大范围推送 Gemini 4 Argon,并同步扩展面向可信网络安全防御者的 Fairwind Program。该模型在 12 个端到端模拟网络攻击场景中全部通过,上一代为 5 个。

    推荐理由:原文披露了 Gemini 4 Argon 在网络安全与生物滥用防护、失准监控和提示注入防御上的具体测试数据,可供比较前沿模型的安全工程做法。

10月8日周四
  1. GitHub Blog · AI & ML62

    GitHub 推出 AI 密钥检测模型,在推送环节拦截非结构化密钥

    GitHub 发布与 Microsoft Applied Sciences 共建的微调 ModernBERT 分类器,用代码上下文在推送阶段拦截无固定格式的密码类密钥,单批候选密钥评估耗时不到 2 毫秒。

    推荐理由:原文给出 GitHub 在推送环节拦截密码类密钥的模型细节与多端开放节奏,可了解平台如何把密钥防护前移。

10月5日周一
  1. GitHub Blog · AI & ML65

    GitHub 发布 AI 代码审查基准 ReviewBench

    GitHub 发布开源代码审查基准 ReviewBench,基于 103.9M 条 pull request 的分布构建,包含 219 条来自 187 个公开仓库、覆盖 19 种语言的 pull request。

    推荐理由:GitHub 公开了 ReviewBench 的语料构建、标注流程和评测口径,可用于比较不同代码审查智能体。

7月29日周三
  1. Berkeley AI Research65

    从 CUDA 到 MLX:K-Search 如何把内核优化经验迁移到 Apple Silicon

    Berkeley Sky Lab 与 IBM Research 基于进化式内核搜索框架 K-Search,新增 MLX 后端和结构化 CUDA-to-MLX 翻译层,让现有 CUDA 内核作为知识库自动适配 Apple Silicon。

    推荐理由:读者可看到 CUDA 内核经验如何被结构化迁移到 Apple Silicon,并了解翻译层对搜索结果的贡献有多大。