【免费下载链接】InternVL2_5-26B-MPO-AWQ项目地址https://ai.gitcode.com/OpenGVLab/InternVL2_5-26B-MPO-AWQ点击查看免费下载InternVL2.5-26B-MPO-AWQ 是开源多模态大模型 InternVL2.5-26B-MPO 的AWQ 4-bit 量化版由约 260 亿参数的视觉编码器与语言模型组成。本文带你完整读懂它官方公布的9 项基准测试MMBench v1.1、MMStar、MMMU、MathVista、HallusionBench、AI2D、OCRBench、MMVet 以及 Avg. 综合分看懂每一项榜单到底在衡量多模态能力的哪一面以及 MPO 偏好优化带来的分数变化。 1 分钟了解这是什么模型InternVL2.5 系列采用经典的ViT - MLP - LLM三段式架构26B 档位的配置如下组成部分模型说明视觉编码器InternViT-6B-448px约 60 亿参数448×448 动态分辨率分块语言模型InternLM2.5-20B-chat约 200 亿参数48 层 Transformer连接层MLP Projector随机初始化并联合训练对齐策略MPO混合偏好优化DPO BCO SFT 三项损失组合几个对新手友好的关键数字均来自仓库内配置文件量化配置AWQ 算法、bits4、group_size128详见 config.json动态分辨率图像按 448px 切片最少 1 片、最多 12 片max_dynamic_patch: 12另附缩略图见 config.json裁剪与归一化参数在 preprocessor_config.json权重体积13 个分片文件pytorch_model-00001-of-00013.bin 等总大小约23.3 GB见 pytorch_model.bin.index.json——AWQ 量化后单张 24GB 显存的显卡即可部署模型入口对话逻辑封装在 modeling_internvl_chat.py 的InternVLChatModel中 一句话总结AWQ 负责跑得动MPO 负责答得好。 9 大评测榜单各自在测什么官方评测数据位于 README.md 的 Evaluation on Multimodal Capability 章节采用 OpenCompass 榜单体系共9 个评测项1 个综合分 8 个专项榜单序号榜单衡量维度题型 / 打分方式1Avg.综合水平各榜单平均越全面越高2MMBench v1.1通用视觉-语言理解选择题百分制3MMStar视觉推理高难度选择选择题干扰项更强4MMMU大学课程级多学科理解覆盖 30 个学科的题目5MathVista数学 视觉推理结合图表的数学解题6HallusionBench视觉幻觉检测专测模型一本正经胡说八道的能力7AI2D科学图表理解论文图表类问答8OCRBench光学字符识别OCR图片文字提取与理解9MMVet开放式对话综合质量LLM 作为裁判打分新手看分小贴士MMBench、MMStar、MMMU 等以准确率计百分制MMVet 原始分为 10 分制再换算HallusionBench 分数越高说明模型越不容易脑补图片里没有的内容。 26B-MPO 基准成绩详解MPO 带来了什么下面对比同一模型未做 MPO与做完 MPO后的分数数据源README.md指标InternVL2.5-26BInternVL2.5-26B-MPO变化Avg.71.672.71.1 ⬆️MMBench v1.184.684.2-0.4MMStar66.567.20.7 ⬆️MMMU60.757.7-3.0 ⬇️MathVista68.072.84.8HallusionBench55.855.3-0.5AI2D86.286.2持平OCRBench85.491.25.8MMVet65.467.11.7 ⬆️怎么读这张表OCR 提升最大5.8MPO 偏好数据大量来自图文推理样本字符识别与对齐能力被显著强化91.2 分甚至追平旗舰的 78B 版本数学推理跃升4.8从 68.0 到 72.8MPO 的先推理、后给 Final Answer训练范式直接受益于 MathVista 这类图表数学题对话质量稳涨MMVet 1.7开放式问答的综合评分同步提高MMMU 小幅回落-3.0偏好优化让模型专精推理与防幻觉代价是部分通识学科知识略有波动——这是 MPO 路线常见的取舍综合分 Avg. 仍然净涨 1.1放在整个 InternVL2.5 家族里看26B-MPO 的 72.7 分 Avg. 仅次于 38B75.5与 78B76.6用更小的参数取得了接近旗舰的表现这也是 AWQ 量化版的实用价值所在。 快速部署与本地体验量化版的主要用途是在消费级显卡上低成本跑起 26B 多模态大模型官方推荐 LMDeploy 方案完整示例见 README.mdpip install lmdeploy0.6.4也可以先克隆仓库查看完整资料git clone https://gitcode.com/OpenGVLab/InternVL2_5-26B-MPO-AWQ启动 OpenAI 兼容的推理服务只需一条命令lmdeploy serve api_server OpenGVLab/InternVL2_5-26B-MPO-AWQ --server-port 23333多轮对话、多图输入等 API 用法均可直接复用 OpenAI 接口格式新手无需学习新协议。❓ 常见问题Q1AWQ 量化会不会让评测分数大幅下降量化主要服务于部署效率。26B 全精度权重需约 50GB 显存AWQ 4-bit 后压缩到约 23.3GB单卡即可运行精度损失在工程实践中通常很小。Q2仓库里 13 个 .bin 文件是什么是模型权重的分片存储索引文件 pytorch_model.bin.index.json 记录了每个参数分片的位置加载时由框架自动拼装无需手动处理。Q3评测榜单中哪个最贴近日常使用看场景写文档提取文字重点看OCRBench做图表题看MathVista日常问答最接近真实体感的是MMVet防胡说看HallusionBench。✅ 小结InternVL2.5-26B-MPO-AWQ InternViT-6B 视觉塔 InternLM2.5-20B 语言模型 MPO 偏好优化 AWQ 4-bit 量化9 项评测从通用理解、视觉推理、数学、OCR 到幻觉检测全方位覆盖Avg. 综合分 72.7MPO 带来的最大增益在OCRBench5.8与MathVista4.8MMMU 的 -3.0 是偏好优化常见的取舍23.3GB 的量化权重让 26B 多模态大模型在单张 24GB 显卡上即可体验赞分享【免费下载链接】InternVL2_5-26B-MPO-AWQ项目地址https://ai.gitcode.com/OpenGVLab/InternVL2_5-26B-MPO-AWQ点击查看免费下载相关推荐InternVL2.5-26B-MPO-AWQ 能做什么一张图看懂 26B 多模态推理模型的 5 大核心能力InternVL2.5 26B MPO AWQ 能做什么一张图看懂 26B 多模态推理模型的 5 大核心能力 InternVL2.5 26B MPO AWQPHP-DDD-Cargo-Sample中的值对象与实体设计TrackingId、Leg和Itinerary的7个实现技巧PHP DDD Cargo Sample中的值对象与实体设计TrackingId、Leg和Itinerary的7个实现技巧 在领域驱动设计DDD中值对象后端示例工程软件架构多模态AI能力极限测试MMMU-Pro如何重塑智能评估标准多模态AI能力极限测试MMMU Pro如何重塑智能评估标准 在人工智能快速发展的今天多模态AI评估已成为衡量智能系统能力的重要标准。MMMU Pro作为一款创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考