ARTICLE DETAIL

建站实战干货

来自一线的建站与推广经验沉淀,每一条都经过真实交付验证。

llmfit 提供商选择器完整指南:d 键一键弹出多源下载选择弹窗

2026/8/31 7:41:53 拓冰建站 浏览量
llmfit 提供商选择器完整指南:d 键一键弹出多源下载选择弹窗 llmfit 提供商选择器完整指南d 键一键弹出多源下载选择弹窗【免费下载链接】llmfitHundreds of models providers. One command to find what runs on your hardware.项目地址: https://gitcode.com/GitHub_Trending/ll/llmfitllmfit是一个终端里的本地大模型选型工具它内置数百个模型与多个下载/推理提供商Ollama、llama.cpp、MLX、LM Studio、vLLM、Docker Model Runner只需一条命令就能告诉你哪些模型能跑在你的硬件上。其中最实用的功能之一就是按下d键时弹出的多源下载提供商选择弹窗——当一个模型有多个可下载来源时llmfit 会把所有可用提供商列出来让你挑选选中即开始下载。d 键到底做了什么在 TUI 主界面按综合评分排序的模型表中用j/k或方向键选中一个模型按d键触发下载docs/tui.md 中的快捷键表。此时 llmfit 会先做几项检查逻辑见 llmfit-tui/src/tui_app.rs情况状态栏提示未安装任何运行时No runtime available — install Ollama, llama.cpp, Docker, LM Studio, or vLLM模型已在本地Already installed存在多个可下载来源弹出提供商选择弹窗无匹配格式如 AWQ/GPTQ说明需要 vLLM 或 CUDA/ROCm GPU提供商选择弹窗长什么样弹窗会显示模型名称、全部可用下载来源以及操作提示↑↓ 选择、Enter 开始下载弹窗内的操作按键事件处理见 llmfit-tui/src/tui_events.rs按键作用↑/↓或j/k在提供商之间移动光标Enter/空格确认选择并立即开始下载Esc/q取消下载弹窗关闭为什么有些模型有多个下载来源llmfit 会根据模型格式和本机已启动的运行时动态计算候选列表available_download_providers见 llmfit-tui/src/tui_app.rsOllama模型在 Ollama 注册表中有映射且 Ollama 可用MLXApple Silicon 安装了 MLX且模型不是 AWQ/GPTQ 等预量化格式llama.cpp / LM Studio存在可用的 GGUF 仓库会先查内置目录再做仓库探测Docker Model Runner该模型有 Docker 镜像映射vLLM存在 vLLM 模型映射。也就是说弹窗里出现的每一项都是真的能下载的来源不会出现点进去 404 的假选项。更多提供商细节可参考 docs/providers.md。下载之后的管理技巧按D打开下载管理器查看实时进度、编辑 GGUF 保存目录、管理历史下载成功项可从提供商删除失败项可清除记录按r让 llmfit 重新扫描各运行时的已安装模型表格会即时打上Inst标记按i切换已安装优先排序快速找到本机现成的模型。小结llmfit 的 d 键提供商选择器把从哪下、下到哪个运行时这件琐事变成了三秒内完成的直观操作选中模型 →d→ 方向键挑一个来源 →Enter。配合硬件适配评分新手也能快速把合适的模型跑起来 【免费下载链接】llmfitHundreds of models providers. One command to find what runs on your hardware.项目地址: https://gitcode.com/GitHub_Trending/ll/llmfit创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考