Foundry Toolkit 上手手册:在 VS Code 里选模型、试推理、跑微调

📅 发布时间:2026/10/22 7:17:20
Foundry Toolkit 上手手册:在 VS Code 里选模型、试推理、跑微调
Foundry Toolkit 上手手册在 VS Code 里选模型、试推理、跑微调【免费下载链接】foundry-dev-tools项目地址: https://gitcode.com/GitHub_Trending/vs/foundry-dev-toolsfoundry-toolkit 是微软开源的 Foundry Toolkit for VS Code 项目前身 AI Toolkit把模型选型、Playground 推理测试、用自有数据微调这三件事装进同一个编辑器省得你在文档、网页和终端之间来回切换。适合想少折腾环境、先把大模型跑起来的新手和普通开发者。从扩展市场装好 Foundry Toolkit打开 VS Code 扩展市场搜 Foundry Toolkit老用户可能还认得它的前身名字 AI Toolkit安装正式版也可以克隆仓库看完整文档和示例git clone https://gitcode.com/GitHub_Trending/vs/foundry-toolkit装好后你会在侧边栏看到模型目录树跟着内置引导就能进到 Playground 和第一个模型。挑一个能本地跑的模型模型目录Model Catalog帮你在一堆模型里做减法。图里每个模型卡片都标了开发商、支持的设备类型CPU/GPU/NPU和来源比如 GitHub、OpenAI、Anthropic、Google 这些托管方。顶部还有 Publisher、Device Type 这些筛选项如果你想要一个能跑在 GPU 上的文本生成模型把 Device Type 切到 GPU 就能快速缩小范围。看中哪个就点卡片上的 Try in Playground不下载先试试水。在 Playground 里试出你要的语气挑好模型后Playground 就是你调参数、看输出的地方。界面左侧能改上下文指令以及最大响应长度、温度这类参数底下是聊天框。同一个问题把 temperature 从 0.5 调到 1.0 再问一次你能直观看到答案风格的变化。本地模型不够用的话还能把 OpenAI 兼容的远程端点加进 MY MODELS在同一个聊天框里对比着玩。用自有数据微调出专属模型现成模型答不到点子上就拿自己的数据微调一版。流程是选模型、给项目起名、配好数据集字段然后点 Start Fine-Tuning 把任务交出去终端里会滚动出加载模型、损失值这些训练日志。比如客服回复总端着就把自己满意的历史对话做成样本丢进去训出来的模型说话会顺很多。 进阶小技巧本地没有 GPU 时可以在设置里开启 Remote Fine-tuning把训练任务丢到云上跑详细步骤 里还有日志查看和密钥配置。从挑模型、调参数到用数据定制foundry-toolkit 把大模型应用开发的前半场基本都装进了 VS Code。装好扩展、挑个模型聊两句比看十篇教程都上手快去仓库里翻翻看吧。【免费下载链接】foundry-dev-tools项目地址: https://gitcode.com/GitHub_Trending/vs/foundry-dev-tools创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考