Mistral 发布旗舰模型 Mistral Large，并通过 Azure 提供服务

我们正在发布 Mistral Large，这是我们最新、最先进的语言模型。Mistral Large 可通过 la Plateforme 使用。我们还通过 Azure 提供该模型，这是我们首个分发合作伙伴。

Mistral Large，我们的新旗舰模型

Mistral Large 是我们全新的尖端文本生成模型。它达到了顶级的推理能力。它可用于复杂的多语言推理任务，包括文本理解、转换和代码生成。

Mistral Large 在常用基准测试上取得了强劲结果，使其成为全球通过 API 普遍可用的排名第二的模型（仅次于 GPT-4）[详见下文基准测试详情]。

图 1：GPT-4、Mistral Large（预训练）、Claude 2、Gemini Pro 1.0、GPT 3.5 和 LLaMA 2 70B 在 MMLU（测量大规模多任务语言理解）上的比较。

Mistral Large 带来了新的能力和优势：

它原生流利支持英语、法语、西班牙语、德语和意大利语，并对语法和文化语境有细致入微的理解。

其 32K token 的上下文窗口允许从大型文档中精确回忆信息。

其精确的指令遵循能力使开发者能够设计自己的审核策略——我们用它来设置 le Chat 的系统级审核。

它原生支持函数调用。这一点，加上在 la Plateforme 上实现的受限输出模式，使应用程序开发和技​​术栈现代化能够大规模进行。

与 Microsoft 合作，在 Azure 上提供我们的模型

在 Mistral，我们的使命是让前沿 AI 无处不在。这就是为什么我们今天宣布，我们将把我们的开放和商业模型带到 Azure。Microsoft 对我们模型的信任是我们旅程中的一步！我们的模型现在可通过以下方式使用：

1. La Plateforme：安全托管在 Mistral 位于欧洲的基础设施上，这个访问点使开发者能够在我们全面的模型范围内创建应用程序和服务。

2. Azure：Mistral Large 可通过 Azure AI Studio 和 Azure Machine Learning 使用，提供与我们的 API 一样无缝的用户体验。Beta 客户已使用它并取得了显著成功。

3. 自部署：我们的模型可以部署在您的环境中，以应对最敏感的使用场景，并可访问我们的模型权重；阅读此类部署的成功案例，并联系我们的团队了解更多详情。

Mistral Large 能力

我们将 Mistral Large 的性能与常用基准测试上领先的 LLM 模型进行比较。

推理与知识

Mistral Large 展现出强大的推理能力。在下图中，我们报告了预训练模型在标准基准测试上的性能。

图 2：市场上领先的 LLM 模型在广泛的常识、推理和知识基准测试上的性能：MMLU（测量大规模多任务语言理解）、HellaSwag（10-shot）、Wino Grande（5-shot）、Arc Challenge（5-shot）、Arc Challenge（25-shot）、TriviaQA（5-shot）和 TruthfulQA。

多语言能力

Mistral Large 具有原生多语言能力。在法语、德语、西班牙语和意大利语的 HellaSwag、Arc Challenge 和 MMLU 基准测试中，它显著优于 LLaMA 2 70B。

图 3：Mistral Large、Mixtral 8x7B 和 LLaMA 2 70B 在法语、德语、西班牙语和意大利语的 HellaSwag、Arc Challenge 和 MMLU 上的比较。

数学与编码

Mistral Large 在编码和数学任务中展现出顶尖性能。在下表中，我们报告了一系列热门基准测试的性能，以评估一些领先的 LLM 模型在编码和数学方面的表现。

图 4：市场上领先的 LLM 模型在热门编码和数学基准测试上的性能：HumanEval pass@1、MBPP pass@1、Math maj@4、GSM8K maj@8（8-shot）和 GSM8K maj@1（5 shot）。

全新 Mistral Small，针对低延迟工作负载优化

与 Mistral Large 一同，我们发布了一款新的优化模型 Mistral Small，针对延迟和成本进行了优化。Mistral Small 的性能优于 Mixtral 8x7B，且延迟更低，使其成为我们开放权重产品与旗舰模型之间的一款精炼的中间解决方案。

Mistral Small 在 RAG 支持和函数调用方面受益于与 Mistral Large 相同的创新。

我们正在简化端点产品，提供以下内容：

具有竞争力的定价的开放权重端点。这包括 open-mistral-7B 和 open-mixtral-8x7b。

新的优化模型端点，mistral-small-2402 和 mistral-large-2402。我们保留 mistral-medium，今天不对其进行更新。

我们的基准测试提供了性能/成本权衡的全面视图。

除了新的模型产品外，我们还允许组织管理多币种定价，并更新了 la Plateforme 上的服务层级。我们还在降低所有端点的延迟方面取得了很大进展。

JSON 格式与函数调用

JSON 格式模式强制语言模型输出有效的 JSON。此功能使开发者能够更自然地与我们的模型交互，以结构化格式提取信息，便于在其后续流程中使用。

函数调用让开发者能够将 Mistral 端点与他们自己的一组工具对接，从而实现与内部代码、API 或数据库更复杂的交互。您将在我们的函数调用指南中了解更多。

函数调用和 JSON 格式仅在 mistral-small 和 mistral-large 上可用。我们很快将为所有端点添加格式化功能，并支持更细粒度的格式定义。

立即试用 Mistral Large 和 Mistral Small

Mistral Large 即日起在 la Plateforme 和 Azure 上可用。Mistral Large 也已在我们测试版助手演示 le Chat 中开放。一如既往，我们期待您的反馈！