Databricks Proteus：通过专用GPU内核生成实现极端效率

Proteus是什么？

2026年9月4日，Databricks公司发布了Proteus系统。Proteus是一个自动生成GPU内核的工具，它能让AI模型运行得更快。GPU内核就像是GPU的“工作手册”，告诉GPU如何高效地完成计算任务。

Proteus生成的Qwen 3.5 122B内核比目前最好的vLLM实现快1.8到5.2倍。这意味着AI模型能更快地响应请求，就像给汽车换上了更高效的引擎。

为什么需要专用内核？

传统的GPU内核是通用的，就像一把万能钥匙，能开很多锁，但效率不高。Proteus根据每个模型的具体形状和运行时的请求动态生成专用内核，就像为每把锁定制专属钥匙，开锁更快。

例如，矩阵乘法的一个维度由模型参数决定，另一个维度随请求的token数变化。专用内核能适应这种变化，从而提升效率。

Proteus如何工作？

Proteus使用智能体（agent）来生成内核，但关键在于验证。它先提出候选内核，然后与参考实现对比，测量性能，并迭代改进。这个过程就像学生做题，老师批改，然后学生再改进。

Proteus特别注重验证，防止智能体“作弊”，比如利用缓存或CUDA图来虚增性能。它使用多种计时器，并检查是否超过物理极限。

验证的重要性

验证是Proteus的核心。如果测量不准，优化就毫无意义。Proteus确保两边做同样的工作，清除残留状态，并保留一些测试集防止过拟合。

例如，一个候选内核可能重用之前的编译代码，看起来更快，但实际不公平。Proteus通过一致性检查来避免这种情况。

上下文管理

Proteus还管理给智能体的上下文。太多信息会让模型困惑，太少则无法进步。它只保留高信任度的建议，比如“当输入大小是X时，展开循环”，并过滤掉过时或冲突的信息。

这就像给助手一个简洁的备忘录，而不是一堆杂乱的文件。

案例研究：Gated DeltaNet

一个具体例子是Qwen 3.5 122B中的Gated DeltaNet路径。Proteus在NVIDIA B200 GPU上使用Triton后端，生成了专用的packed decode内核，显著提升了性能。

这个内核更新循环状态并写入解码输出，Proteus通过完整循环验证了其有效性。

限制与适用人群

Proteus目前主要面向AI研究人员和工程师，用于优化大型模型的推理性能。官方未说明是否开源，但博客详细介绍了方法，可能对社区有启发。

对于普通用户，Proteus带来的好处是AI服务更快，但直接使用需要专业知识。