Mistral AI 开放 La Plateforme 平台测试,提供三个生成端点和嵌入端点
Product La Plateforme December 11, 2023 By Mistral team
Mistral AI 开放 La Plateforme 平台 beta 访问,提供 mistral-tiny、mistral-small、mistral-medium 三个文本生成端点和 mistral-embed 嵌入端点。
官方公布三个文本端点和一个嵌入端点的性能与定价取舍,并附 MT-Bench 和 MTEB 分数,便于开发者按成本与质量选型。
Mistral AI 为开发者带来最强大的开放生成模型,以及高效部署和定制它们用于生产的方式。
我们今天开放对我们首个平台服务的 beta 访问。我们从简单开始:la plateforme 提供三个聊天端点,用于根据文本指令生成文本,以及一个嵌入端点。每个端点都有不同的性能/价格权衡。
生成端点
前两个端点 mistral-tiny 和 mistral-small 目前使用我们发布的两个开放模型;第三个 mistral-medium 使用一个性能更高的原型模型,我们正在部署环境中测试它。
我们提供模型的指令版本。我们致力于整合最有效的对齐技术(高效微调、直接偏好优化),以创建易于控制且使用愉快的模型。我们在从开放网络提取的数据上预训练模型,并根据注释进行指令微调。
Mistral-tiny。我们最具成本效益的端点目前提供 Mistral 7B Instruct v0.2,这是 Mistral 7B Instruct 的新次要版本。Mistral-tiny 仅适用于英语。它在 MT-Bench 上获得 7.6 分。指令模型可以在此处下载。
Mistral-small。此端点目前提供我们的最新模型 Mixtral 8x7B,在我们的博客文章中有更详细的描述。它掌握英语/法语/意大利语/德语/西班牙语和代码,并在 MT-Bench 上获得 8.3 分。
Mistral-medium。我们最高质量的端点目前提供一个原型模型,基于标准基准,它目前是可用顶级服务模型之一。它掌握英语/法语/意大利语/德语/西班牙语和代码,并在 MT-Bench 上获得 8.6 分。下表比较了 Mistral-medium、Mistral-small 的基础模型与竞争对手端点的性能。
嵌入端点
Mistral-embed,我们的嵌入端点,提供具有 1024 嵌入维度的嵌入模型。我们的嵌入模型在设计时考虑了检索能力。它在 MTEB 上获得 55.26 的检索分数。
API 规范
我们的 API 遵循我们最亲爱的竞争对手最初提出的流行聊天界面的规范。我们提供 Python 和 Javascript 客户端库来查询我们的端点。我们的端点允许用户提供系统提示,以便在这是重要要求的应用中为模型输出设置更高级别的审核。
从 beta 访问逐步提升到全面可用
从今天起,任何人都可以使用我们的 API,因为我们会逐步提升容量。我们的业务团队可以帮助评估您的需求并加速访问。在我们稳定平台以实现完全自助可用性的过程中,请预期会有一些粗糙之处。
致谢
我们感谢 NVIDIA 支持我们集成 TensorRT-LLM 和 Triton,并与我们并肩工作,使稀疏专家混合模型与 TRT-LLM 兼容。
来源:Mistral AI:News · mistral.ai