跳到正文
北京时间
原文
Mistral AI:News·· 2023-12-11精选AI 评分75

Mistral AI 开放 La Plateforme 平台测试,提供三个生成端点和嵌入端点

Product La Plateforme December 11, 2023 By Mistral team

AI 导读

Mistral AI 开放 La Plateforme 平台 beta 访问,提供 mistral-tiny、mistral-small、mistral-medium 三个文本生成端点和 mistral-embed 嵌入端点。

推荐理由

官方公布三个文本端点和一个嵌入端点的性能与定价取舍,并附 MT-Bench 和 MTEB 分数,便于开发者按成本与质量选型。

正文 · AI 翻译

Mistral AI 为开发者带来最强大的开放生成模型,以及高效部署和定制它们用于生产的方式。

我们今天开放对我们首个平台服务的 beta 访问。我们从简单开始:la plateforme 提供三个聊天端点,用于根据文本指令生成文本,以及一个嵌入端点。每个端点都有不同的性能/价格权衡。

生成端点

前两个端点 mistral-tiny 和 mistral-small 目前使用我们发布的两个开放模型;第三个 mistral-medium 使用一个性能更高的原型模型,我们正在部署环境中测试它。

我们提供模型的指令版本。我们致力于整合最有效的对齐技术(高效微调、直接偏好优化),以创建易于控制且使用愉快的模型。我们在从开放网络提取的数据上预训练模型,并根据注释进行指令微调。

Mistral-tiny。我们最具成本效益的端点目前提供 Mistral 7B Instruct v0.2,这是 Mistral 7B Instruct 的新次要版本。Mistral-tiny 仅适用于英语。它在 MT-Bench 上获得 7.6 分。指令模型可以在此处下载。

Mistral-small。此端点目前提供我们的最新模型 Mixtral 8x7B,在我们的博客文章中有更详细的描述。它掌握英语/法语/意大利语/德语/西班牙语和代码,并在 MT-Bench 上获得 8.3 分。

Mistral-medium。我们最高质量的端点目前提供一个原型模型,基于标准基准,它目前是可用顶级服务模型之一。它掌握英语/法语/意大利语/德语/西班牙语和代码,并在 MT-Bench 上获得 8.6 分。下表比较了 Mistral-medium、Mistral-small 的基础模型与竞争对手端点的性能。

嵌入端点

Mistral-embed,我们的嵌入端点,提供具有 1024 嵌入维度的嵌入模型。我们的嵌入模型在设计时考虑了检索能力。它在 MTEB 上获得 55.26 的检索分数。

API 规范

我们的 API 遵循我们最亲爱的竞争对手最初提出的流行聊天界面的规范。我们提供 Python 和 Javascript 客户端库来查询我们的端点。我们的端点允许用户提供系统提示,以便在这是重要要求的应用中为模型输出设置更高级别的审核。

从 beta 访问逐步提升到全面可用

从今天起,任何人都可以使用我们的 API,因为我们会逐步提升容量。我们的业务团队可以帮助评估您的需求并加速访问。在我们稳定平台以实现完全自助可用性的过程中,请预期会有一些粗糙之处。

致谢

我们感谢 NVIDIA 支持我们集成 TensorRT-LLM 和 Triton,并与我们并肩工作,使稀疏专家混合模型与 TRT-LLM 兼容。

来源:Mistral AI:News · mistral.ai