人工智能大模型多模态计算机视觉【免费下载链接】EVIE-Preview-4.5B项目地址https://ai.gitcode.com/tencent_hunyuan/EVIE-Preview-4.5B点击查看免费下载做多向量视觉文档检索时最头疼的往往不是精度而是索引成本——每页文档都要存几百上千个向量100 万页轻松吃掉几十甚至上百 GiB直接把检索方案挡在落地门外。EVIE-Preview-4.5B把每个 token 向量压缩到原生128 维让 100 万页的 BF16 索引只需179.2 GiB同时还拿下了 ViDoRe V3 与 V1V2 双榜第一。本文带你算清这笔索引账看懂 128 维如何把存储与算力一起省下来。 先搞懂多向量检索到底在存什么传统的单向量检索把一整页文档压成一个向量去比对。而ColPali / ColBERT这类多向量late-interaction晚交互方案会把一页拆成成百上千个token每个 token 各存一个向量检索时再逐 token 对齐打分。打比方单向量像给整页文档拍一张缩略图多向量像把每个字、每个图都单独存档。后者精度更高但存档量也跟着暴涨——索引成本由此而来。EVIE-Preview-4.5B 正是这条路线它用视觉语言模型读懂文档图像为每一页输出成百上千个 128 维向量。 为什么值得为它省这笔钱省成本的前提是省得值。EVIE-Preview-4.5B 的成绩说明它不是靠砍精度换小索引榜单指标EVIE-Preview-4.5B排名ViDoRe V38 领域 × 6 语言nDCG1065.36 第 1ViDoRe V1 V214 任务nDCG585.77 第 1其中 ViDoRe V1nDCG591.73—其中 ViDoRe V2nDCG570.87—它仅用 4.54B 参数、8.5 GB 的 BF16 权重就压过了一批 7B、8B 甚至参数更大、向量维度更高的对手。又准又省才是它真正的看点。 128 维把 100 万页装进 179 GiB 的数学账这就是标题里179 GiB的出处。索引大小 向量数 × 维度 × 每元素字节数BF16 为 2 字节档位每页视觉 token每页向量数100 万页原始 BF16 索引768训练预算751.62179.2 GiB1,792推理外推1,763.58420.5 GiB以 1,792 档为例官方给出的完整算式是1,763.58 vectors/page × 128 dim × 2 bytes × 1,000,000 pages ÷ 2^30 420.5 GiB对比一下就懂省在哪。同档、同样 100 万页、同样 768 token 预算下向量维度100 万页索引768 档相对 128D640D业界多向量常见值≈ 896 GiB5 倍大128DEVIE179.2 GiB1 倍基准换句话说128 维把原本约 896 GiB 的索引直接压到原来的1/5。模型把 2560 维的上下文状态投影到 128 维的这一步就写在 1_Dense/config.json 里——in_features: 2560 → out_features: 128一个轻量线性层完成了瘦身。完整的 128 维设定也能在 config.json 的dim: 128与embed_dim: 128里看到。⚡ 维度越低不只是省存储还省算力晚交互打分的核心是MaxSim对每个查询 token在文档的所有 token 向量里找最相似的一个再累加。它本质是一堆向量点积。向量越窄点积的乘法次数越少。所以128 维既砍存储、又砍打分算力两头受益。这正是官方强调的索引成本决定了多向量检索能不能真正上线而 128 维让能上线变成现实。两档部署一个 checkpointEVIE 训练时预算是每页 768 个视觉 token1,792 档是纯推理外推——同样的权重没在那个预算下训练或微调。结果不降反升从 64.56 涨到 65.368 个领域里 7 个变好。你可以按自己的算力二选一预算紧→ 768 档100 万页 180 GiB要极限精度→ 1,792 档100 万页约 420 GiB。 它是怎么读懂文档页的架构是一条清晰的流水线整体流程可以这样理解文本查询 ──► ColQwen3_5双向注意力──► 查询 token 向量 (128D) │ MaxSim 晚交互 ──► 相关性得分 │ 文档图像 ──► ColQwen3_5动态视觉──► 文档 token 向量 (128D)视觉语言骨干Qwen3.5-4B交错排布线性注意力与全注意力层紧凑投影把 2560 维上下文状态直接投到原生 128 维晚交互检索查询 token 与文档视觉 token 做 MaxSim。在 Sentence Transformers 这条路径下投影 → 归一化 → 掩码的完整管线由 modules.json 声明对应目录 1_Dense/、2_Normalize/、3_MultiVectorMask/ 三个模块。归一化保证向量长度稳定也写在 2_Normalize/config.json 中。⚠️ 一个新手容易踩的坑EVIE 是全注意力层编码器化训练的。官方随包提供了 bidirectional.py 里的enable_bidirectional_attention加载后调用一次、并在每次查询前把model.rope_deltas None才能复现榜单分数。这一点在 infer.py 里已默认处理好。 新手快速上手三步跑通检索无需准备任何本地文件核心就是装依赖 一条命令。第 1 步 · 克隆并装依赖git clone https://gitcode.com/tencent_hunyuan/EVIE-Preview-4.5B pip install -r requirements.txt依赖很轻requirements.txt 里只有colpali-engine、accelerate与pyarrow。第 2 步 · 一条命令检索python infer.py --query Quarterly revenue report --image page_1.png --image page_2.png它会打印出查询对每个页面的得分与排名最相关的页面排在最前。第 3 步 · 复现榜单成绩可选想验证上面的 179 GiB / 65.36 等数字跑bash reproduce.shreproduce.sh 会用 download_data.py 自动拉取 ViDoRe 数据集再在全部可见 GPU 上调用 reproduce.py 评测。想手动指定 1,792 档加上--max-visual-tokens 1792即可。提示查询支持英、法、德、意、西、葡、中7 种语言去检索图表、表格、科技报告、财务披露与扫描件——甚至能读懂日文页面。图像预处理参数见 processor_config.json。 小结128 维为什么是极致优化关注点EVIE-Preview-4.5B 的答案精度ViDoRe V3 / V1V2 双榜第 1索引成本768 档 100 万页仅179.2 GiB存储/算力128 维同砍存储与 MaxSim 打分模型体积4.54B 参数BF16 权重 8.5 GB多语言7 种查询语言可检索日文页面部署弹性一个 checkpoint768 / 1,792 两档预算一句话总结EVIE-Preview-4.5B 用原生 128 维向量把多向量视觉文档检索的老大难——索引成本——直接压缩到原来的 1/5让 100 万页文档的检索在不到 180 GiB 内就能跑起来且精度不减反增。对想落地文档检索的团队来说这就是能真正上线的那关键一步。 更多训练细节难负样本挖掘、大模型证据判定与完整评测数据见官方说明 README.md 与 config_sentence_transformers.json。赞分享人工智能大模型多模态计算机视觉【免费下载链接】EVIE-Preview-4.5B项目地址https://ai.gitcode.com/tencent_hunyuan/EVIE-Preview-4.5B点击查看免费下载相关推荐npm-security-best-practices深度解析锁定依赖版本的艺术与科学npm security best practices深度解析锁定依赖版本的艺术与科学 npm生态系统频繁面临供应链攻击、恶意软件和依赖劫持等安全威胁而锁定人工智能大模型多模态计算机视觉Orama向量维度优化终极指南从1536维到128维的性能提升实践Orama向量维度优化终极指南从1536维到128维的性能提升实践 Orama Search作为现代搜索引擎其向量搜索功能在处理高维数据时面临巨大挑战。本文向量数据库RAG突破向量搜索瓶颈pgvector中HNSW索引的极致优化指南突破向量搜索瓶颈pgvector中HNSW索引的极致优化指南 在当今AI驱动的时代向量搜索已成为推荐系统、语义搜索和图像检索等应用的核心技术。Postgre向量数据库数据库搜索引擎上一篇Dioxus应用性能分析工具如何快速找出并解决瓶颈下一篇3大场景5步操作Umi-OCR让你的扫描PDF活起来彻底告别手动录入创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考