Mistral Large 是什么?
2024年2月26日,Mistral AI 发布了 Mistral Large,这是他们最新、最先进的文本生成模型。它由 Mistral AI 自己开发,通过 la Plateforme 和微软 Azure 提供闭源 API 服务,官方未说明是否开放权重。它能进行复杂多语言推理、代码生成和函数调用,就像一个同时会五种语言、能帮人写作业和查资料的超级学霸。
Mistral Large 是 Mistral AI 的旗舰模型,官方称其达到顶级推理能力,在常用基准测试中排名世界第二,仅次于 GPT-4。它原生流利支持英语、法语、西班牙语、德语和意大利语,拥有 32K tokens 的上下文窗口,能精确回忆长文档中的信息。
它有哪些新本领?
Mistral Large 具备多项新能力:原生多语言理解,能处理语法和文化语境;32K tokens 上下文窗口,适合处理长文档;精确的指令跟随,让开发者可以设计自己的审核策略;原生函数调用和受限输出模式,方便应用开发和技术栈现代化。
函数调用让模型能连接开发者自己的工具、内部代码、API 或数据库,实现更复杂的交互。JSON 格式模式则强制模型输出有效的 JSON,方便提取结构化信息。这些功能目前只在 mistral-small 和 mistral-large 上可用,官方表示很快会扩展到所有端点。
性能表现怎么样?
官方展示了 Mistral Large 在推理、知识、多语言、数学和编码基准上的表现。在 MMLU 测试中,Mistral Large 排名第二,仅次于 GPT-4。在多语言测试中,它在法语、德语、西班牙语和意大利语上的表现远超 LLaMA 2 70B。
在编码和数学任务中,Mistral Large 也表现出顶级性能,在 HumanEval、MBPP、Math maj@4、GSM8K 等基准上成绩优异。这些测试就像学校的考试,Mistral Large 在多个科目上都拿到了高分,证明它是个全面发展的优等生。
怎么使用 Mistral Large?
Mistral Large 通过 la Plateforme 提供,这是 Mistral 在欧洲基础设施上安全托管的平台,开发者可以用它创建应用和服务。同时,Mistral Large 也通过微软 Azure AI Studio 和 Azure Machine Learning 提供,这是 Mistral 的第一个分发合作伙伴。
此外,模型还可以自部署,适用于最敏感的使用场景,但需要联系团队获取模型权重。官方还推出了 le Chat 测试助手,用户可以在上面体验 Mistral Large。对于小学生来说,这就像你可以通过不同的商店买到同一个玩具,有的商店还允许你带回家自己组装。
同时发布的 Mistral Small 是什么?
与 Mistral Large 一起,Mistral AI 还发布了 Mistral Small,这是一个针对低延迟和低成本优化的模型。它比 Mixtral 8x7B 表现更好,延迟更低,是介于开源权重模型和旗舰模型之间的中间解决方案。
Mistral Small 同样受益于 RAG 启用和函数调用等创新。官方简化了端点提供,包括开源权重端点 open-mistral-7B 和 open-mixtral-8x7b,以及新的优化模型端点 mistral-small-2402 和 mistral-large-2402。mistral-medium 保持不变。
平台有哪些更新?
除了新模型,Mistral AI 还允许组织管理多币种定价,并更新了 la Plateforme 的服务层级。官方还大幅降低了所有端点的延迟,让响应更快。
这些更新让开发者能更灵活地选择适合自己需求和预算的模型。对于企业来说,多币种定价意味着不同国家的团队可以用当地货币支付,就像在国外的商店可以用当地钱买东西一样方便。
有哪些限制和不确定的地方?
官方未说明 Mistral Large 的具体参数量、训练数据规模、是否开放权重、许可证类型以及定价细节。这些信息对于想深入了解模型或计划自部署的用户来说很重要,但目前只能等待官方进一步公布。
另外,函数调用和 JSON 格式目前只在 mistral-small 和 mistral-large 上可用,其他端点暂时不支持。官方表示会很快添加,但具体时间未说明。对于想使用这些功能的开发者,需要先确认自己的端点是否支持。
适合哪些人使用?
Mistral Large 适合需要复杂多语言推理、代码生成和函数调用的开发者和企业。它可以帮助处理长文档、构建智能应用、现代化技术栈。Mistral Small 则适合对延迟和成本敏感的场景。
对于小学生和初中生来说,可以把它想象成一个超级智能的作业帮手,能帮你翻译、写代码、解数学题,但需要在大人的指导下使用,因为它是通过 API 提供的专业工具,不是直接给个人用户玩的玩具。
本文由 AIGCWHY 自动监测系统发现,经结构化处理后发布。重要决策请打开原文核验。