AI INFRA DAILY 系统 · 工程 · 研究
低位计算、云端边界与可交互世界
日报 ·
- 低位计算
- 云端治理
- 交互式生成
推理执行|从候选方案走到实际计算
SnakeCharmer|共同控制预取的时机与落点
10 月 22 日的 SnakeCharmer 将地址预测与预取控制分开:前端提供候选地址,后端共同决定是否发出、何时发出,以及返回数据放在哪里。它用零值置信度过滤低收益请求,用执行反馈调整预取距离,并借空闲寄存器缓冲数据,减少 L1 竞争;预测准确并不自动等于程序加速。
实验用 AccelSim、AccelWattch 模拟 A100 与 V100,比较 Snake、APOGEE 及组件消融,只计 GPU kernel 执行。14 个负载先按地址预测潜力筛选,包含图算法、CNN 和小型 decoder-only Transformer,不能外推为完整 LLM 服务收益。这是微架构研究,原文未给可核验的项目代码入口,不能描述成现有 GPU 上可安装的软件优化。
来源:2026-10-22(UTC 首提),A 级|论文与首提记录 · 控制机制、模拟与负载筛选。
FIGFLEX|让低位权重同时减少计算工作
近期补充:10 月 21 日 UTC 的 FIGFLEX 将混合精度量化与 FP–INT GEMM 数据通路共同设计。Radix-4 移位加法结构让较低位宽释放更多并行计算位置,量化器再按 GPTQ 不能补偿的误差分配位宽,并用列缩放适配硬件。它量化 decoder 线性层权重,激活、embedding 和输出头仍为 FP16。
质量评估覆盖六个模型,对照 GPTQ、AWQ 等;硬件结果来自 SystemVerilog RTL、NanGate 15nm、1GHz 综合,对照重新实现的 FIGNA、FIGLUT、AxCore。端到端请求收益是估计,batch=1 仍受内存带宽限制,不能当作流片实测。平均 2/3bit 仅计权重编码,不含缩放、零点和精度标签;原文未提供可核验公开仓入口。
来源:2026-10-21(UTC 首提;近期补充),A 级|论文与首提记录 · 架构、量化与综合评估。
TensorRT 调优器|在准确性约束下搜索构建路线
NVIDIA 在 10 月 23 日的两篇工程文章中,解释 TensorRT 11.1 已提供的 Global Performance Tuner。它把编译选项组合表示为可搜索的构建路线,逐个构建并测量完整引擎;启用参考输出验证后,排除构建失败或准确性不达标的候选,再从已测合格路线中选最快者。
调优仍需要调用方提供代表性输入、参考输出和阈值;最快路线只对应搜索过的候选,模型、shape、GPU 或软件版本改变后需要重新测量。文章的负载图没有交代足够的硬件和 shape 条件,不宜引用为通用加速倍数。这次的新材料是工程解释,并非 TensorRT 11.1 当天发布。
来源:2026-10-23(工程文章;功能早于本次文章),B 级|构建路线与准确性约束 · 搜索设计与使用条件 · 现有调优接口文档。
平台交付|接口统一之后仍要核对责任边界
Claude on Google Cloud|新增 Anthropic 托管路径
Google 在 10 月 23 日宣布 Anthropic-managed Claude 部署选项 GA,在既有 Google-managed 路径之外,由 Anthropic 运营 Claude API,Google Cloud 提供 IAM 接入与 Marketplace 计费。Managed Agents 等能力仍保留各自的 Beta 状态;部署选项 GA 不会把所有平台功能一起变为 GA。
官方文档明确,Google 集成层与 Anthropic API 分别承担数据处理责任,存储、推理或支持服务可能离开 Google Cloud。接入会创建独立的 Anthropic 组织,原组织的配置与 ZDR 安排不会自动继承。Managed Agents 只在创建时检查权限,撤销创建者的 IAM 权限不会停止既有会话或定时部署;因此,接入验收还需检查运行资源与权限撤销的生命周期。
来源:2026-10-23,A 级|Google 原始 GA 发布;B 级|Google 接入与数据处理说明 · Anthropic 身份与运行契约。
AWS 1:1 NAT|在连接附件上转换重叠地址
AWS 在 10 月 23 日为 Transit Gateway 与 Cloud WAN 提供 attachment 级托管 1:1 NAT,通过 Regional Private NAT Gateway 为重叠网段建立双向地址映射,减少多云连接、合作方接入与网络合并时的重新编号工作。它是静态、无状态的 IPv4 CIDR 转换,源与目标前缀长度相同,保留主机位与端口,不需另写反向转换规则,也允许另一侧主动发起连接。
这不是共享端口的 NAPT,IPv6 流量不会被转换。Cloud WAN 还限定 attachment 类型,启用 appliance mode 的 VPC attachment 不能同时启用 NAT,Connect 与其 transport attachment 也不能同时开 NAT。对跨云数据与计算平台而言,这能减少地址冲突造成的接入工作,但路由和已有网络模式仍须一并验证。
来源:2026-10-23,A 级|AWS 原始交付公告;B 级|Cloud WAN 映射语义与兼容限制。
科研计算|规划与代理模型各自接受验证
ArcTN|同时核算收缩计划与执行成本
10 月 22 日 UTC 的 ArcTN,为量子电路张量网络选择收缩顺序。Light、Heavy 两种预设结合随机贪心构造、子树重配置和并行回火,在搜索时间、运算量与中间张量大小之间取舍;Fixed、Dynamic slicing 用于满足中间结果大小限制,保存的计划也能复用。
主实验使用 Xeon Platinum 8253,每次固定八个物理核,对照 Cotengra、OMECO、Google TNCO;海光服务器的加速器测试实际只用一张 BW200 DCU。统计限于各配置共同完成的案例,slicing 部分只生成和验证计划,没有执行数值收缩,FLOPs 降幅不能直接视为运行加速。原仓含基准与记录结果,但采用非商业 source-available 许可,Light/Heavy 引擎为随 wheel 提供的专有组件,不能称全栈开源。
来源:2026-10-22(UTC 首提),A 级|论文与首提记录 · 规划、执行与比较范围 · 原仓及交付许可。
CARS|让血管中心线承载几何条件
近期补充:10 月 21 日 UTC 的 CARS,以中心线坐标、逐点管腔半径和入口流量为条件,在查询点预测压力与速度。它把血管自身的中心线作为注意力焦点,减少几何融合成本;主要精度配置的第二阶段仍是完整 self-attention,不能把整个模型统称为线性复杂度。
推理评估为单张 A100 80GB、FP32、batch 1,对照参数量接近的神经算子;CFD 参考在 Azure F16s_v2 的八个 MPI rank 上运行,前向时间不含分割、中心线提取和网格生成。训练与测试重复部分基础解剖,主要说明参数空间插值;标签来自稳态、刚性壁、Newtonian OpenFOAM 流程,未验证真实患者终点,速度场也不足以保证连续性。派生数据、权重和代码尚未公开。
来源:2026-10-21(UTC 首提;近期补充),A 级|论文与首提记录 · 代理结构、实验与临床外推限制。
交互模型|连续生成与实体部署分开验收
Hy-Nomas|把新指令接到持续的视频历史
腾讯在 10 月 23 日上传 Hy-Nomas 权重与基准,原仓提供训练、推理和交互演示代码。模型逐段生成视频,在段间接收文本或相机控制,并用持续 KV cache 保留历史。同步提供的 Hy-Nomas-Bench 包含多轮文本、相机导航、交错控制与空间记忆测试;公开的是输入与轨迹,未附评估分数,不能据此宣称领先。
标准配置采用八卡序列并行;另一条 RTX 4090 单卡路径使用 INT8 权重与 KV、FP8 解码器和 CPU 卸载,GPU 历史有界,CPU 历史仍会增长,在线 Nomas-PE 也需要单独资源。24 FPS 是输出播放帧率,不是实测生成速度;视频推理单卡可用也不等于完整交互服务只需一张卡。模型与代码按 Apache-2.0 发布,第三方组件仍各守其许可。
来源:2026-10-23(权重与基准上传),A 级|原始模型卡 · 代码与部署配置 · 原始基准与数据范围 · 权重发布记录。
Microduck 仿真|从 Agent 资产制作走到策略评估
NVIDIA 在 10 月 23 日展示一条 Microduck 工作流:Agent 在 RTX Spark 上规划任务,用 FreeCAD、Blender 制作可编辑资产,再由 Isaac Sim、Newton 构建环境与反馈。已有运动策略在 Isaac Lab 中继续学习斜坡和障碍,使用头部相机深度与机器人状态观测;该适应训练在 RTX PRO 6000 Blackwell Workstation Edition 上运行 4,096 个并行环境。
训练后的策略回到 RTX Spark 上做仿真评估,检查完成路线、跌倒、碰撞和停滞。文章附有实体行走演示,但没有给出这条新障碍课程的完整硬件部署与实机验收;BAM 执行器建模和域随机化仍需结合实际传感、接触与控制时序校准。这里可复用的是资产、训练与评估的交接方法,不能把仿真课程完成直接等同于实体任务通过。
来源:2026-10-23(工程工作流),B 级|NVIDIA 原始流程、训练配置与部署范围。