部署工程

Databricks 如何让 12000 名员工在模型发布首日用上新前沿模型

Databricks 分享其让全部员工在模型发布首日即可试用新模型的内部流程，依托 Unity Gateway 做配置分发、治理与可观测性。流程分三步：立即以实验标签开放新模型、用四类按人预算控制成本、再依据内部基准、用户反馈和 OpenTelemetry 成本追踪决定推广或下线。

Tomer Tunguz 解析 GPU 租金翻倍而 AI 价格下降的并行逻辑

GPU 租赁价格在九个月内从 $4.40 翻倍到 $8.08 每 GPU 小时，但 AI 使用价格仍在下降。

Claude Opus 5.5 提示词指南：与 Opus 5 的行为差异及迁移模式

Anthropic 官方文档介绍针对 Claude Opus 5.5 的提示词模式，覆盖 effort 校准、无人值守智能体运行、安全拒绝、进度更新、多应用工作流、视觉输入和前端设计等场景。

GitHub 如何通过迁移 CSS Modules 将 SSR 时间降低 55%

GitHub 工程师 Josh Black 复盘将 Primer 设计系统从 CSS-in-JS 迁移到 CSS Modules 的历程。截至 2024 年 12 月 Primer 全部组件迁移完成，服务端渲染时间减少 55%，组件初始化时间减少 25%。

vLLM 新增基于 Gumbel-max 的无失真文本水印功能

vLLM 宣布支持基于 Gumbel-max 算法的无失真水印，将其集成进 Model Runner v2 的采样管线，并通过 PR #54053、#56122、#56233 实现融合 GPU kernel、双键方案和上下文去重，以兼容投机解码并保持输出多样性。

蚂蚁开源 Ming-Image-0.1-Design 系列：两个 6B 模型打通设计生成与图层编辑

蚂蚁百灵开源 Ming-Image-0.1-Design 系列模型，包含两个 6B 模型：Design 从文字需求生成 UI、信息图、海报等完整设计，Layer 将设计图拆成 2 至 9 个可独立编辑的 RGBA 图层，并同步开源 Design Skill 和 PPT Skill。

ClaudeDevs@ClaudeDevs09:28精选AI 评分5151

Claude 团队宣布在两周内将 claude.ai 速度提升 3 倍。文章介绍他们如何用 Claude 来测量、调试和改进性能，并附上了相关提示词和方法，详见 https://claude.dev/blog/how-we-made-claude-ai-faster/。

ClaudeDevs@ClaudeDevs09:28精选AI 评分6868

Claude Code 云会话正式可用，结束研究预览阶段，可在笔记本合盖后继续在 Anthropic 托管的基础设施上运行。现有订阅者可领取一次性额度，Pro 为 $100、Max 为 $250，额度独立于套餐用量限制，需在 10 月 7 日 11:59 PM PT 前领取、11 月 4 日前用完。

Cursor 发布 Rollouts 和 Security Reviewer 开发机器人

Cursor 发布两款软件开发机器人 Rollouts 和 Security Reviewer，帮助团队更快把安全可靠的代码送入生产环境。

Cursor 提升 agent 长时运行 token 效率，用户成本降低 7%

Cursor 通过改进 agent harness，在不降低 agent 质量的情况下将用户 token 成本降低 7%。

Fireworks 发布 Ember-1，以约四成更少 token 达到 Kimi K3 质量

Fireworks Research 发布基于 Kimi K3 训练的专用模型 Ember-1，通过学习精简不必要的推理，在保持质量的同时减少约 35-50% 的 reasoning token。

eric zakariasson@ericzakariasson04:27精选AI 评分7777

一份公开提示词用于优化 LLM Agent Harness，目标是在不降低任务质量的前提下降低每任务的价格加权 token 成本。某团队一轮改动（提示词精简、工具卸载、缓存布局、稀疏行号、子智能体调优）将整体 token 成本降低约 7%，且质量无损。提示词强调按任务而非按请求计量，并建议先映射 harness、测量基线，再按优先级实施改动。

Modal 详解如何以万亿 token 规模服务 Kimi K2.6 编码 Agent 推理

Modal 分享为编码 Agent 提供万亿参数模型 Kimi K2.6 推理服务的优化实践，优化后单副本每用户性能提升 2.8x、副本整体吞吐提升 5.6x，单个服务日处理数千亿 token。

vLLM 发布 vllm-metal v0.28.0：在 Apple Silicon 上支持并发推理服务

vLLM 官方发布 vllm-metal v0.28.0，把 vLLM 的 V1 调度器、paged KV cache 和 OpenAI 兼容服务器带到 Apple Silicon，由 MLX 和 Metal 执行模型，版本号与上游 vLLM 对齐。

OpenRouter 实测 Jev 1.13 与 Claude Opus 5 在 Banking77 分类任务上的准确率、延迟与成本

OpenRouter 用 Banking77 测试集的 3,080 条客服语料对比 Jev 1.13 与 Claude Opus 5 的意图分类表现。Jev 准确率 81.0% 比 Opus 的 84.4% 低 3.3 个百分点，但中位延迟 175 ms 约为 Opus（2,266 ms）的 1/13，每千次请求成本 $0.11 对 $2.42（启用提示词缓存）。

Anthropic 详解 Opus 5.5 上一次 Claude Code 任务的成本构成

Anthropic 官方博客拆解 Claude Code 任务在 Opus 5.5 上的成本构成，轮次、缓存读取、输出 token 和模型选择决定账单，Opus 5.5 API 输入输出每百万 token 降价 20%、缓存读取降 60% 至 $0.20。

LiteParse 9 月更新：PDFium 提速 20-25%，新增视觉定位与 is-complex 路由 API

LlamaIndex 发布 LiteParse 2.14.6 更新，通过对自维护 PDFium fork 做内存分配优化（内置 mimalloc）等手段，将文本提取耗时降低 20-25%，平均 2.76ms/页，markdown 渲染 3.94ms/页。

OpenRouter 推出 Batch API，批量推理可享半价

OpenRouter 发布 Batch API，异步批量请求由供应商在 24 小时窗口内完成，通常按正常 per-token 价格的 50% 或更低收费，目前已支持 70 多个模型。

transformers 支持直接加载 GGUF 量化模型，本地推理性能接近 llama.cpp

Hugging Face 宣布 transformers 支持直接运行 GGUF 量化模型，通过 from_pretrained 传入 gguf_file 即可加载 Hub 上的 GGUF checkpoint，并复用 ggml 的 Metal 内核。

OpenRouter 解读 NVIDIA Nemotron 3.5 Lightning 如何承担 Agent 高频执行调用

OpenRouter 发文解读 NVIDIA 的 Nemotron 3.5 Lightning，这是一款 30B 总参数、约 3B 激活参数的混合专家开源权重模型，定位于工具调用、编码等高频、边界清晰的 Agent 执行步骤，与负责复杂推理的 Nemotron 3 Ultra（550B 总参数、55B 激活）形成分工。