跳到正文
北京时间
原文
Inception Labs:Blog(网页)·· 2025-11-18精选AI 评分62

Inception Labs 的 Mercury 扩散大语言模型上线 Azure AI Foundry

Mercury Diffusion LLM Now Available on Azure AI Foundry

AI 导读

Inception Labs 宣布 Mercury 上线 Azure AI Foundry,将其称为首个商用规模的扩散大语言模型(dLLM)。该模型采用扩散架构并行生成多个 token,推理速度最高达可比自回归模型的 10 倍,官方称其在知识、编码、指令遵循和数学基准上与 Gemini 2.5 Flash、Claude 4.5 Haiku 相当。

推荐理由

原文给出扩散架构的并行生成原理、与同类模型的延迟和基准对比及许可定价,读者可据此评估实时应用的部署价值。

正文 · AI 翻译

今天,我们非常激动地宣布,Mercury 已在 Azure AI Foundry 上可用,将首个商业规模的扩散大语言模型(dLLM)带给企业开发者。此次发布将 Inception 的突破性扩散架构与 Azure 的企业级基础设施相结合,使开发者能够使用一个兼具卓越速度与质量的模型。

Mercury 由打造了 Flash Attention、Direct Preference Optimization 以及最初的图像扩散模型等基础 AI 技术的团队构建,它代表了语言模型生成文本方式的根本性转变。Azure AI Foundry 上的开发者现在可以使用一个重新定义了实时 AI 应用可能性的模型。

语言生成的新架构

传统语言模型按顺序生成文本,一次一个 token。这造成了一个固有的瓶颈:每个 token 都必须等待之前所有 token 生成完毕。Mercury 使用基于扩散的架构并行生成多个 token,从而实现显著更快的推理。结果是:Mercury 的运行速度比同类自回归模型快最多 10 倍。

性能:速度与质量

Mercury 以前所未有的速度提供前沿质量。在知识、编程、指令遵循和数学基准测试中,Mercury 的表现与 Gemini 2.5 Flash 和 Claude 4.5 Haiku 等模型相当,同时运行速度最多快 10 倍。

Azure 上的企业级就绪

Azure AI Foundry 上的 Mercury 开箱即用,已为生产环境做好准备。它具备 128K token 上下文窗口,可处理大型文档并维持长时间对话,并原生支持工具调用以及使用 JSON schema 的结构化输出,用于构建智能体工作流。该 API 与 OpenAI 兼容,使与现有代码库的集成无缝顺畅。

Azure AI Foundry 提供企业级基础设施,包括网络隔离、数据隐私保障(确保你的数据保留在你的 Azure 环境中,绝不用于训练)、包括 SOC2 和 HIPAA 在内的 Azure 合规标准,以及通过 Azure Monitor 和 Application Insights 提供的全面可观测性。

真实世界用例

Mercury 的速度与质量组合让应用更快、响应更灵敏:

  • 编程助手:通过响应迅速的自动补全、智能 Tab 建议、快速聊天响应等保持心流。

  • 实时语音智能体:在客户支持、翻译等场景中与 AI 自然互动。

  • 无缝企业工作流:借助超灵敏 AI 自动化复杂的路由、分析和决策流程。

  • 快速企业搜索:即时从组织知识库中呈现正确的数据。

在 Azure AI Foundry 上部署

Mercury 通过 Azure AI Foundry 在美国和加拿大区域可用。部署非常简单——通过 Azure AI Foundry 的统一目录配置你的模型端点并设置基础设施。Mercury 软件许可费用为每小时 0.78 美元,计算成本将根据你配置的资源通过你的 Azure 账户单独计费。

Azure AI Foundry 集成:

Mercury 与更广泛的 Azure 生态系统无缝集成。使用 Azure AI Foundry 的模型目录进行部署,应用 Azure AI Content Safety 进行内容过滤,实时监控性能和成本,使用 Azure RBAC 和托管标识管理访问权限,并使用 Azure 的智能体框架构建多模型应用。

三步快速上手

  1. 导航至 Azure AI Foundry 的模型目录,搜索 Mercury, 并点击模型卡片。或者,您可以访问我们的模型卡片此处

  2. 点击 Use this model, 选择一个项目,然后按照 UI 提示操作,以配置您所需的容量。

  3. 虽然默认配置对大多数开发者来说应该足够,但我们建议选择 ND-H100-v5 实例以获得最佳速度。部署应在几分钟内完成。

就是这样!您现在应该可以开始使用新配置的 API 端点进行构建了:

在 Python 中:

实时 AI 的未来

Mercury 在 Azure AI Foundry 上的发布标志着生产级 AI 应用的转折点。开发者不再需要在速度与质量之间、在实时响应能力与前沿模型能力之间做出取舍。

在 Azure AI Foundry 上部署 Mercury →

如需详细文档、基准测试和集成指南,请访问 Azure AI Foundry 中的 Mercury 模型卡片。

来源:Inception Labs:Blog(网页) · inceptionlabs.ai