【免费下载链接】S1-mini-MLX-bf16项目地址https://ai.gitcode.com/hf_mirrors/mlx-community/S1-mini-MLX-bf16点击查看免费下载S1-mini-MLX-bf16 是 Superwhisper 推出的语音识别ASR文本规范化模型S1-mini的MLX BF16 未量化版本。它基于 Qwen3-0.6B 微调而来只干一件事把 ASR 吐出的原始转录小写、无标点、带口癖和犹豫改写成干净、规范、可直接展示的书面文本。同一模型还提供 GGUF 量化版很多人卡在同一个问题上到底该选BF16 未量化还是GGUF本文基于仓库内官方 README 与配置数据从精度、体积、速度、硬件生态四个维度做一次完整对比帮你 1 分钟定下选型。两种版本先搞清楚区别两个版本共享同一模型内核596M 参数、28 层、16 个 Q 注意力头 8 个 KV 头GQA、BF16 训练精度、词表 151,936见 config.jsontokenizer 与 chat 模板也完全一致唯一差异在权重存储格式与部署工具链对比维度BF16 未量化S1-mini-MLX-bf16GGUF 量化s1-mini-GGUF权重精度BF16 原始精度无量化损失量化近似官方常用 Q4_K_M文件体积约1.13 GB约462 MiB推荐工具mlx-lmllama.cpp / Ollama / LM Studio推荐硬件Apple Silicon MacM 系列芯片笔记本 CPU 即可定位精度上限 Mac 生态轻量部署 跨平台 一句话总结BF16 是原汁原味GGUF 是瘦身随行。BF16 未量化版精度优先的 Mac 首选BF16 版保留了原始 bfloat16 精度权重零量化损失。仓库的 model.safetensors 即完整权重约 1.13 GBconfig.json 中torch_dtype: bfloat16明确了精度。部署方式安装 mlx-lm 后直接加载uv tool install mlx-lmfrom mlx_lm import generate, load model, tokenizer load(mlx-community/S1-mini-MLX-bf16) # system 提示词 控制行详见 READMEMLX 是 Apple 专为 Apple Silicon 设计的机器学习框架统一内存架构让权重 1.13 GB在 8GB 内存的 Mac 上也不成问题。⚠️两个版本都必须设置enable_thinkingFalse。仓库内的 chat_template.jinja 在开启该标志时才会输出训练时看到的空 think 块缺失则大概率输出空白。适合场景Mac 本地开发 / 精度敏感数字、日期、邮箱等格式化、追求输出质量上限。GGUF 量化版轻量部署的跨平台方案GGUF 是 llama.cpp 生态的量化容器格式s1-mini-GGUF提供 Q4_K_M 等量化档位官方 Q4_K_M 构建仅462 MiBruns comfortably on a laptop CPU官方原文。部署方式任选其一llama-server -hf superwhisper/s1-mini-GGUF:Q4_K_M \ --jinja --chat-template-kwargs {enable_thinking:false} --temp 0Ollama 与 LM Studio 同样基于 GGUF但要注意它们默认继承 Qwen3 的思考默认开启模板需手动保证 think 块为空README.md。实测精度官方在 7,519 条留出英文样本上测得94.8% token 准确率greedy 解码、Q4_K_M GGUFBF16 未量化权重should do at least as well见 README.md。对文本规范化这种确定性任务Q4 量化的精度损失通常可忽略。适合场景ARM / 纯 CPU 设备、边缘侧部署、体积受限的发布渠道、Ollama / LM Studio 生态。选型建议一张表定方案 你的情况推荐理由Apple Silicon Mac mlx-lmBF16生态原生、精度上限、Mac 内存无压力笔记本 CPU / ARM / 无 GPUGGUF462 MiB 即可跑CPU 友好追求最高输出质量数字、日期、邮箱格式化BF16零量化损失追求速度、体积、最低延迟GGUF文件小、内存占用低、推理快Ollama / LM Studio 生态GGUF这类工具只吃 GGUFvLLM / SGLang 服务化部署两者皆可需另用 HF 原始权重切换版本时这些保持不变 ✅两个版本输入格式完全一致切换无需改业务逻辑系统提示词 控制行[Styling: …] [Structure: …] [Context: …]三个维度README.md缺失或改写会直接导致乱码输出贪婪解码generation_config.json 已设do_sample: false温度保持 0 即可采样只会引入无谓方差长文本切分单次输入建议 ≤ 1,000 token按句边界分段README.md空字符串是合法结果纯口癖如 um输入应返回空不是错误仓库文件速查表 克隆仓库git clone https://gitcode.com/hf_mirrors/mlx-community/S1-mini-MLX-bf16后各文件用途如下文件说明model.safetensorsBF16 权重主体约 1.13 GBmodel.safetensors.index.json权重索引total_size1.13 GB、total_parameters596,049,920config.json模型结构qwen3 架构、28 层、BF16chat_template.jinja对话模板enable_thinkingFalse时输出空 think 块tokenizer.json分词器词表151,936 tokengeneration_config.json生成默认do_sample: falseREADME.md官方使用指南与模型概览LICENSEApache 2.0 命名条款写在最后选型逻辑其实很直白硬件决定能跑哪个需求决定该跑哪个。Mac 上、追求精度 →BF16 未量化CPU / ARM / 体积敏感 →GGUF想两个都要先用 BF16 验业务再上 GGUF 看速度差量化对这类确定性任务的影响通常微乎其微S1-mini 是 Apache 2.0 命名条款可嵌入开源与商业软件但发布前务必确认 LICENSE 中保留 S1-mini by Superwhisper 名称的附加条款。本文对比数据均来自仓库 README.md 与配置文件的官方记录实际速度表现以你的硬件为准。赞分享【免费下载链接】S1-mini-MLX-bf16项目地址https://ai.gitcode.com/hf_mirrors/mlx-community/S1-mini-MLX-bf16点击查看免费下载相关推荐BF16还是Q5_K_MConfucius4 GGUF三大量化版本对比与选型完整指南BF16还是Q5_K_MConfucius4 GGUF三大量化版本对比与选型完整指南 Confucius4 是网易有道 AI 团队开源的多模态大语言模型基于BF16、Q8_0 还是 Q4_0gemma-4-12B-it-GGUF 三大量化版本实测对比与选择清单BF16、Q8_0 还是 Q4_0gemma 4 12B it GGUF 三大量化版本实测对比与选择清单 一分钟看懂gemma 4 12B it GGUFMiniMax Music 3 MLX版本大对比bf16、8bit还是4bit一文帮你选对量化方案MiniMax Music 3 MLX版本大对比bf16、8bit还是4bit一文帮你选对量化方案 MiniMax Music 3 是 MiniMax 推出创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考