lijianfei.com

随着 TypeSafe 发布以毫秒级离散裁决为核心的 Jev 系列模型，以及其在终端实时操控《毁灭战士》（Doom）的轰动性演示，“System 1（快思考）决策模型”正在迅速从前沿实验走向工业界视野。与传统聊天大模型通过逐 Token 自回归生成漫长 JSON 字符串的沉重范式截然不同，System 1 模型直接在单次前向传播中输出带校准概率的离散结构化决策，不仅将时延压低至 100 毫秒左右，更从根本上消除了幻觉风险。然而，原厂 Jev 作为一个闭源托管的商业云端 API，不仅带来了高昂的数据出境与订阅隐忧，其内在的四重分类器理论盲区更常令开发者防不胜防。

知名 Clojure 核心生态作者、Cryogen 与 Macchiato 的缔造者 Dmitri Sotnikov（yogthos） 近日正式发布了全新的开源离线决策引擎 Lev（jlt-commons/lev）。Lev 不仅在协议层完全兼容 Jev 的 Wire API，更基于原生 Lisp 运行时 Jolt（脱离 JVM、基于 Chez Scheme 直接静态编译为 C 原生二进制），打造了一套融合 “ModernBERT 快分类器” 与 “Llama.cpp 并行决策思考者” 的双层自动升阶系统。

在当下的企业级知识库、智能问答（RAG）、财务票据审核与合同生命周期管理流水线中，非结构化文档的摄取（Ingestion）往往是整个系统最脆弱的阿喀琉斯之踵。现实世界中的文档流绝少以“一份文件一页 PDF”的理想形态出现，企业日常接收到的通常是一个数十甚至上百页的 “混合数据包”（Packet）——例如一次性扫描交付的文件袋中，前两页是 IRS Form 1040 税表，紧接着是两份属于不同交易的财政部拍卖结果，其后又附带一份长达十页且充斥密集统计图表的经济分析公报，最后以两页公共安全指南收尾。

面对这种高度杂糅的文档流，传统的工程方案往往直接调用大型自回归语言模型（如 GPT-4o 或 Claude 3.5 Sonnet）进行长上下文抽取与切分。然而，这种“大模型一把抓”的范式不仅带来了动辄 1.5 到 2 秒的漫长等待与高昂的 Token 账单，更深陷“同类相邻单据粘连”与“公文附件过度切割”的逻辑死角。近日，知名开源数据框架 LlamaIndex 创始人 Jerry Liu 正式开源了全新项目 DocJev（jerryjliu/docjev）。该项目依托 TypeSafe Jev 毫秒级非自回归决策引擎，结合本地零成本解析 LiteParse 与自适应云端 LlamaParse，在 40 份真实美国政府公文的严苛基准下，以 138ms 分类、209ms 切分 的惊艳速度打破了传统 LLM 的性能天花板。