Codestral 是什么?一句话说清楚
2024 年 5 月 29 日,Mistral AI 发布了 Codestral,这是他们第一个专门用来写代码的 AI 模型。它采用开放权重方式,使用 Mistral AI 非生产许可证,可以下载用于研究和测试。简单说,它就像一个专门帮程序员写代码的智能小助手。
Codestral 能帮程序员补全写了一半的代码、自动写测试、还能在代码中间填空。它支持 80 多种编程语言,包括 Python、Java、C、C++、JavaScript 等常见语言,也能处理 Swift 和 Fortran 这类更专门的语言。官方未说明它是否支持中文自然语言指令。
为什么需要专门写代码的 AI?
普通 AI 模型什么都会一点,但写代码需要更专业的技能。就像普通医生和专科医生的区别,Codestral 就是代码领域的专科医生。它经过大量代码数据训练,能更准确地理解编程逻辑。
官方原文说,Codestral 在 RepoBench 长距离代码生成评测中表现优于其他模型,因为它有 32k 的更大上下文窗口。上下文窗口就像 AI 的短期记忆容量,32k 意味着它能一次记住更多代码内容,不会写到后面忘了前面。
Codestral 能做什么具体工作?
Codestral 可以完成编程函数、编写测试、以及用填充中间机制补全任何不完整的代码。填充中间机制就像做填空题,你给出前后文,它帮你填中间缺失的部分。官方原文说这能帮助开发者减少错误和 bug。
它还支持通过共享的指令和补全 API 端点与代码交互。开发者可以在 IDE 插件中使用它,比如 Continue.dev 和 Tabnine 已经集成 Codestral,让用户在 VSCode 和 JetBrains 环境中生成代码和对话。
怎么使用 Codestral?两种主要方式
第一种方式是通过专用端点 codestral.mistral.ai。这个端点适合在 IDE 中使用指令或填充中间路由的用户。API 密钥按个人管理,不受组织速率限制。官方在 8 周 beta 期间免费开放,但需要等待名单审核。
第二种方式是通过常规 API 端点 api.mistral.ai,按 token 计费。这个端点更适合研究、批量查询或第三方应用开发。官方原文还提到,Codestral 也包含在自部署产品中,需要联系销售团队。
Codestral 的性能表现如何?
官方使用多个基准测试评估 Codestral。Python 方面用了 HumanEval pass@1、MBPP sanitised pass@1、CruxEval 和 RepoBench EM。SQL 方面用了 Spider 基准。还评估了 C++、bash、Java、PHP、Typescript 和 C# 等多种语言。
JetBrains 的研究员在官方原文中反馈,在 Kotlin-HumanEval 基准测试中,Codestral 在 T=0.2 时达到 73.75 分,超过 GPT-4-Turbo 的 72.05 分和 GPT-3.5-Turbo 的 54.66 分。Tabnine 的研发负责人也表示,尽管模型相对紧凑,但性能与更大模型相当。
Codestral 的限制和注意事项
Codestral 使用 Mistral AI 非生产许可证,意味着只能用于研究和测试目的。如果要在商业活动中使用,需要联系团队获取商业许可证。官方未说明商业许可证的具体价格和条款。
专用端点 codestral.mistral.ai 的免费 beta 期只有 8 周,且有等待名单限制。官方未说明 beta 期结束后是否收费以及收费标准。另外,官方未说明模型的具体训练数据来源、训练成本和推理硬件要求。
谁适合使用 Codestral?
Codestral 适合软件开发者、编程学习者和需要代码辅助工具的技术团队。对于使用 VSCode 或 JetBrains 的开发者,可以通过 Continue.dev 或 Tabnine 插件快速集成。对于构建 AI 应用的研究者,可以通过 LlamaIndex 和 LangChain 集成。
对于商业项目,需要先获取商业许可证。对于只想测试和研究的用户,可以下载开放权重模型在 HuggingFace 上。官方原文建议,IDE 插件开发者应优先使用 codestral.mistral.ai 端点,因为客户可以自带 API 密钥。
本文由 AIGCWHY 自动监测系统发现,经结构化处理后发布。重要决策请打开原文核验。