Jev 大陆不可用开源克隆 Kev 突然火了RTX 3090 免费跑通【免费下载链接】kevJev-like family of decision models built on top of Qwen3.5/3.8 you can train and run on your own项目地址: https://gitcode.com/gh_mirrors/kev2/kev外媒已经注意到这件事了Pasquale Pillitteri 在 Google News 上发文标题直指「TypeSafe 的 Jev 已有开源克隆版免费即可在 RTX 3090 上运行」。这条消息之所以能引发关注是因为它同时戳中了三个敏感点——闭源托管模型的 API 替代、消费级显卡的硬件门槛、以及中文开发者圈子里被反复讨论的「Jev 大陆不可用」。而当你翻开这个叫 Kev 的仓库会发现它并不是一个只停留在口号上的玩具四个档位的模型、一套与 TypeSafe 完全对齐的 API、可直接落地的微调与部署管线全部开源在 Apache-2.0 协议下。本文结合社区情报与仓库源码拆解这次「开源平替」背后的技术事实。从外媒消息看 Kev 的定位TypeSafe Jev 的开源替代先看 Kev 的自我定位。仓库根目录的 README.md 第一句话就写明了使命Small Jev-like decision models you can train and run yourself——即「你可以自己训练和运行的小型 Jev 式决策模型」。这不是营销话术架构上它是认真的模型基于 Qwen3.5 / Qwen3.8 底座采用 Jevs Architecture Unmasked 一文披露的架构实现API 完全匹配 TypeSafe 的 System One 接口POST /v1/systemoneTypeSafe 官方 Python SDK 不改一行代码即可指向本地 Kev 服务器每次请求只做 prefill不生成文本输出的是一个确定性的概率分布——这是与生成式大模型最本质的区分。从源码看核心推理逻辑 由三块构成一个 causal LM 骨干Qwen3.5 混合了 Gated DeltaNet 线性注意力层与全注意力层、一个 rank-16 的 LoRA 适配器、以及一个指针头PointerHead。指针头做的事情很精巧每个选项的/opt隐藏状态与问题的decide隐藏状态做点积打分softmax 后得到该选项的概率。因为decide排在最后它可以完整 attend 到选项列表而 block-causal 掩码保证了问题之间互不可见——这就是「一次请求同时回答 noul是非/ choice多选/ score打分三类问题且问题之间互相隔离」的实现基础。请求与响应的数据结构定义在 kev/api.py与 TypeSafe 的适配器system-one-adapter 0.2.1置信度公式保持一致。更值得注意的是一组数字。在从未训练过的数据源transfer-v4六个公共数据集加策略结构上Kev-27B 的准确率达到 0.851与 Jev 的 0.857 仅差 0.6 个百分点Kev-4B 与 Kev-9B 差距在四个点以内。README 坦承「这不是受控对比因为我们不知道 Jev 训练了什么」但差距之小本身就已说明用完全开源的数据与权重可以逼近一个闭源托管服务的决策质量。免费与单卡可跑意味着什么0.8B / 4B / 9B 的硬件门槛「RTX 3090 免费跑通」不是一个夸张的标题。把四档模型的硬件需求摊开看门槛低得惊人数据来自 README 与各模型卡模型底座权重形态服务所需硬件服务驻留显存Kev-0.8BQwen3.5-0.8B-BaseLoRA 适配器 指针头11.3M 参数L4 或任何 4GB GPU3.8 GBKev-4BQwen3.5-4B-BaseLoRA 适配器 指针头33.8M 参数约 16GB 空闲的 GPU14.3 GBKev-9BQwen3.5-9B-BaseLoRA 适配器 指针头45.4M 参数单张 24GB 级 GPU21.9 GBKev-27BQwen3.8-27B后训练版全量 bf16 权重51 GB 指针头B200 / H200 / H100 80GB约 66 GBRTX 3090 恰好是 24GB 显存跑 0.8B 与 4B 毫无压力跑 9B 也正落在「24 GB-class」区间其服务驻留 21.9GB留有裕量。这就是外媒那句「免费在 RTX 3090 上运行」的技术依据。0.8B 甚至被设计成「跑在笔记本上」的档位Apple Silicon 通过 MLX 后端原生支持一个 32GB 的 MacBook 就能把 4B 装进内存。硬件门槛低只是第一层「免费」的第二层含义是训练也免费。Kev 的完整训练管线就躺在 训练入口 里Kev-0.8B 的全部训练基础配方单张 H100 约 20 分钟README 明确写到--batch 1 --accum 8的 bf16 配置「fits the 0.8B model on a 4 GB GPU」——一块 4GB 显存的显卡就能从零微调社区情报中已有开发者用 RTX 3060 Laptop6GB 级笔记本显卡成功训出 0.6B 的 LoRA 决策模型如果连本地 GPU 都不想要kev-finetune 技能 把整个流程搬到 Modal 云端一次 Kev-4B 微调运行的成本约为1 美元H100 上 15 分钟。「可训」带来的收益是实打实的。README 记录了一个支持工单场景的微调实验Kev-4B 在 1050 条生成数据上微调后准确率从 67.7% 升到 73.6%在 5219 条真实消费金融投诉上一个 epoch 让 Kev-4B 在未见过的数据上从 0.804 涨到 0.904。微调还会在用户自己的标注数据上重拟合温度参数——这意味着你设的置信度阈值度量的是你自己的数据分布。性能层面也有据可查Kev-4B 在 H100 上回答六个问题约 18.1ms模型时间在 L40S 上 41.5ms容器在 64 并发下可支撑约 100 req/sKev-0.8B 在 L4 上 22.7ms、62.8 req/s。对绝大多数工单分诊、内容审核这类业务决策场景这个延迟量级完全可用。下图是 Kev 家族与 Jev 在各数据源上的准确率对比来自 docs/kev-family.png可以直观看到 27B 在多数新数据源类别上已贴住 Jev本地跑起来只需要两条命令uv sync --extra serve之后uv run --extra serve python -m kev.serve --run jaredpalmer/kev-4b --port 8009服务端实现见 kev/serve.py然后curl -s localhost:8009/v1/systemone就能发一个多问题工单请求返回的答案自带probabilities与confidence供业务代码按置信度分流。仓库还附赠一个 playgroundNext.js 应用在浏览器里就能加载预设、编辑文本与问题、对比「打包提问 vs 逐个提问」、测试选项顺序对结果的影响甚至内置一个以棋盘为输入的象棋演示中文开发者为何对「Jev 平替」如此敏感社区情报里反复出现一句话出自 CSDN 的对比文章《Jev / Kev / Laya 对比》「Jev 闭源高性能但不可训且大陆不可用」。这句话浓缩了中文开发者对 Jev 的三个痛点而 Kev 恰好一一回应。其一托管与自托管的鸿沟。Jev 是 TypeSafe 的托管服务模型权重不公开、推理在云端完成。Kev 仓库里甚至专门写了一个 Jev 评测桥接器通过 Vercel AI Gateway 以约 0.042 美元/百万 token 的价格按预算调用 Jev 来做对比评测——这本身说明 Jev 的访问链路是跨境托管 API依赖境外网关这对国内开发者意味着可用性、数据合规与网络条件的多重不确定性。而 Kev 的服务端一条命令就能在本地起一个与 TypeSafe 完全兼容的端点数据全程留在本机模型卡里也明确提示自托管让输入数据留在你自己的硬件上。对处理工单、投诉等含个人信息数据的业务来说这一点几乎是刚需。其二不可训与可注入的差距。社区文章的结论很尖锐「选型关键不在于零样本性能而在于能否将业务规则、语言和类别体系注入模型」。Jev 闭源、不可微调你的业务分类体系、升级规则、语言变体都无法进入模型Kev 则提供了完整的注入路径——kev.train的--init_from jaredpalmer/kev-4b可以从已发布检查点热启动在保留原模型能力的基础上叠加领域数据README 记录的对比从底座直接训得分 0.33--init_from后在原评测集保持 0.83、新领域达到 0.88。这等于把「私有决策偏好」这个最后一块拼图也交到了开发者手里。其三许可证与成本账。Kev 全家适配器、指针头、底座 Qwen3.5/3.8均为 Apache-2.0 协议GitHub 发布的 0.8B/4B/9B 检查点附带 SHA-256 校验Kev 27B 的 51GB 权重因超出 GitHub 资产上限托管在 Hugging Face 上。相比按 token 计费的托管服务私有化部署的边际成本趋近于零——一张已有的 3090 就是全部硬件投入。理性看待平替的边界在哪里开源克隆受追捧但 README 和四张模型卡如 Kev-4B 模型卡、Kev-27B 模型卡把边界也写得非常清楚这些诚实对开发者才是最有价值的信息知识类问题由底座决定。MMLU-Pro 上 Kev-27B 得 0.675Jev 为 0.840MMLU 上 Kev-9B 为 0.73 vs Jev 0.90。决策模型的知识上限被底座锁死日期算术是共同短板。deadline策略题上 Kev-9B 只有 0.725Jev 为 0.95Kev 的解法是KEV_DATE_FACTS1预处理实现见 kev/api.py 的date_facts直接往 state 里注入日期差微调的收益集中在你自己的分布内。README 承认在未训练过的公共数据集上Kev-0.8B 仍落后 Jev 21 个点breadth-v1 指数 23.3 vs 54.0校准是一条温度曲线。Kev-4B/9B/27B 在 5% 误差预算下可自动化的新数据决策占比 0.52–0.69仍低于 Jev 的 0.70——概率不能重排阈值必须在自己数据上验证。总的判断是Kev 不是「免费的 Jev」而是「可控的 Jev 替代品」——它把决策模型的选择权、训练权和部署权全部还给了开发者。对于风控、审核、工单分诊这类「结构化决策 低延迟 数据不出内网」的场景一张 RTX 3090 上跑一个自己微调过的 4B 或 9B可能比继续依赖一个跨境托管 API 更可靠、也更便宜。这大概就是它「突然火了」的真正原因。【免费下载链接】kevJev-like family of decision models built on top of Qwen3.5/3.8 you can train and run on your own项目地址: https://gitcode.com/gh_mirrors/kev2/kev创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考