ExtractBench 是什么?
2026年8月11日,LlamaIndex 发布了 ExtractBench,这是一个专门用来测试企业文档抽取能力的基准。它由 LlamaIndex 开发,是一个开放基准,数据集、评测工具和方法全部公开可复现。它能测试系统从各种企业文档中抽取结构化数据的能力,覆盖370份文档、4869页、8个业务领域和67种文档类型。就像给文档抽取系统做一次全面体检,看看它能不能把一叠厚厚的文件里的信息又快又准地抄到表格里,还能告诉你每个数字是从哪一页哪个位置抄来的。
为什么要做这个基准?
企业智能体越来越依赖从非结构化文档中提取的关键业务数据。当人类不再逐页检查时,文档抽取必须达到更高的标准。现有的基准要么只测试固定字段,要么只覆盖一小部分场景,没有同时评估长记录完整性、真实扫描件和手写体、词级和页级定位以及成本。所以 LlamaIndex 自己构建了 ExtractBench,希望它能反映生产环境中的真实问题。
ExtractBench 评测哪些方面?
ExtractBench 从五个独立维度给每份文档打标签:任务难度、感知方式、表格结构、文档长度和业务领域。任务难度包括长列表完整性、大海捞针和密集文档;感知方式包括旋转、扫描和手写;表格结构包括合并表头、跨页表格和超大表格;文档长度分为短、中、长;业务领域覆盖8个行业和67种文档类型。每个维度的得分单独报告,这样低分可以追溯到具体原因。
答案是怎么来的?
基准的答案必须准确且不偏向任何系统。LlamaIndex 用三种方式构建答案:真实文档由不同模型家族的系统运行相同模式,一致的结果作为候选答案,不一致的由人工查看文档决定;合成长列表在生成PDF之前就已知每个值和位置,可以精确评分;169种监管和税务表格由人工逐字段检查,并为84%的字段标注了边界框。所有系统使用完全相同的输入。
测试了哪些系统?结果如何?
LlamaIndex 测试了14个系统,分为三类:前沿视觉语言模型、编码代理和专用抽取API。LlamaExtract 的三种模式都参与了测试。新推出的 Agentic Plus 层级以95.6%的值F1分数和最佳定位分数位居榜首,每页成本8.1美分。其他系统如 Codex (GPT-5.5) 得分93.6%,每页27.8美分;Claude Code (Opus 4.8) 得分87.1%,每页16.2美分;Reducto Deep Extract 得分90.4%,每页34.4美分。
LlamaExtract Agentic Plus 是什么?
Agentic Plus 是 LlamaExtract 的新最高精度层级,专为最广泛的文档抽取挑战设计。它在基准测试中首次亮相就排名第一,提供95.6%的值F1分数和最佳定位分数,每页成本8.1美分。LlamaExtract 是 LlamaIndex 提供的文档抽取API服务,属于闭源服务。Agentic Plus 的推出意味着用户可以在精度和成本之间选择更适合自己需求的层级。
这个基准对谁有用?
ExtractBench 对开发文档抽取系统的工程师、需要评估不同抽取方案的企业用户以及研究文档理解的研究人员都很有用。它提供了可复现的评测方法,帮助大家比较不同系统在真实企业文档上的表现。对于小学生和初中生来说,可以把它想象成一场考试,考题是各种复杂的文件,看看哪个系统能又快又准地把答案抄出来,还能告诉你答案在文件的哪个位置。
有哪些限制和不确定的地方?
原文没有说明 ExtractBench 的具体开源许可证,也没有详细说明 LlamaExtract Agentic Plus 的定价模式。基准测试的完整排行榜数据、各系统的具体版本信息也没有完全公开。此外,基准测试的结果可能会随着系统更新而变化,用户需要关注最新的评测数据。对于想要使用 LlamaExtract 的用户,建议查看官方定价页面获取最新信息。
本文由 AIGCWHY 自动监测系统发现,经结构化处理后发布。重要决策请打开原文核验。