Mistral AI 推出模型定制服务：开源微调 SDK 与托管微调

Mistral 模型定制服务是什么？

2024年6月5日，Mistral AI 团队发布了模型定制服务，让开发者可以轻松地调整 Mistral 的 AI 模型，让它们更适合自己的需求。这就像你有一个很聪明的通用机器人，但它不会做你家的家务。Mistral 给你一套工具，让你教它学会叠衣服、做饭等专门技能。

这个服务包括三个部分：一个开源的微调代码库 mistral-finetune，一个在 la Plateforme 平台上的无服务器微调服务，以及面向企业的定制训练服务。开源代码库采用 LoRA 技术，可以让开发者在自己的设备上微调 Mistral 的开源模型，不需要很大的内存。无服务器微调服务则让开发者不用自己搭建基础设施，直接通过 API 就能定制模型。定制训练服务则使用客户自己的专有数据，训练出高度专业化的模型。

为什么需要微调？

微调是一种强大的技术，可以定制和改进大型语言模型（LLM）的性能，为特定应用提供更好的回答、灵活性和效率。当你把一个较小的模型调整到适合特定领域或用例时，它可以达到较大模型的性能，同时降低部署成本并提高应用速度。

传统上，微调模型需要企业投入大量资金。Mistral 的专业知识使他们能够以高效的方式提供微调，从而降低训练和服务的成本。这就像你不需要买一个超级计算机来教机器人，只需要一套聪明的工具，就能让普通电脑也能完成训练。

开源微调 SDK：mistral-finetune

对于想在自己的基础设施上微调 Mistral 开源模型的开发者，Mistral 发布了 mistral-finetune，一个轻量且高效的代码库。它基于 LoRA 训练范式，允许内存高效且性能良好的微调。你可以微调所有开源模型，而不会牺牲性能或内存效率。

LoRA 就像给机器人加装一个小型插件，而不是重新制造整个机器人。这样，你不需要大量的计算资源，就能让模型学会新技能。这个代码库是开源的，开发者可以自由使用和修改。

无服务器微调服务：la Plateforme

为了进一步简化微调，Mistral 在 la Plateforme 上推出了新的微调服务。这些服务利用 Mistral 独特的微调技术，经过大量研发，可以实现快速且成本有效的模型适配和部署。底层使用 LoRA 适配器，防止忘记基础模型的知识，并允许高效服务。

目前，微调服务兼容 Mistral 7B 和 Mistral Small。使用这些模型的用户可以通过 API 立即定制模型。Mistral 将在未来几周内增加新模型。这就像你把机器人送到一个专门的学校，学校用特殊的方法教它，你只需要付学费，不用自己建学校。

定制训练服务：面向企业

Mistral 的定制训练服务涉及使用客户自己的专有数据，在客户的特定应用上微调 Mistral AI 模型。这种方法可以创建高度专业化和优化的模型。Mistral 提供先进技术，如持续预训练，将专有知识包含在模型权重中。

这些定制训练服务仅面向特定客户群体，并根据他们的具体需求定制。有兴趣的企业可以联系销售团队了解更多。这就像请一个私人教师到公司，用公司的内部资料来培训机器人，让它只懂公司的业务。

如何开始使用？

开发者可以在 la Plateforme 上注册，并查看指南和教程，了解如何用自定义 LLM 构建应用。Mistral 还举办了微调黑客松，从2024年6月5日到6月30日，让开发者实验新的微调 API。

对于想自己动手的开发者，可以下载 mistral-finetune 代码库，在自己的机器上微调开源模型。对于想省事的开发者，可以使用 la Plateforme 的微调服务。对于有特殊需求的企业，可以联系 Mistral 的销售团队。无论哪种方式，都需要准备好训练数据，并了解基本的微调概念。

限制与适用人群

目前，无服务器微调服务仅支持 Mistral 7B 和 Mistral Small，其他模型尚未开放。定制训练服务仅面向特定客户，不是所有人都能使用。开源 SDK 虽然免费，但需要开发者自己准备计算资源和数据。

这个服务适合AI应用开发者、数据科学家和企业AI团队。如果你是小学生或初中生，可能暂时用不到，但可以理解成：Mistral 提供了让AI变得更聪明的工具，就像给机器人上培训班。未来，当你想让AI帮你做特定事情时，这些工具就会很有用。