PuppyIP 资源中心
AI 工具指南 6 分钟 发布于 2026-10-05

llama-server 模型下载卡住?Router 状态检查与 b11401 预览修复

先确认是否使用 Router,再对照模型状态、下载事件与日志;b11401 可以作为特定问题的预览验证选项。

llama-server llama.cpp Router 下载排错

服务对象与地域限制

PuppyIP 仅面向海外合规企业及其授权人员提供服务,不面向中国大陆地区开放或提供代理服务。本服务仅限用于中国大陆境外的合法业务活动,严禁在中国大陆境内使用本服务。

代理 IP 或服务器位于境外,不改变上述限制。不得通过中转、转接、共享或转售向中国大陆境内的最终使用者提供本服务。使用前请阅读用户服务协议。

本文要点

  • 排查先锁定一个实例和一个模型,保留下载开始、最后进展与出错时刻的连续记录。
  • 先记录实际程序路径、版本和启动参数,按同一个模型 ID 对照事件、状态与日志。
  • 试预览时另设目录和端口,保留旧程序与配置;观察结果一致后,再决定是否切换。

先确认卡在哪一步,再决定是否换版本

模型一直显示下载中,先不要删权重或重新发起同一下载。记录目标模型、出现问题的时间和最后一条有效日志,再判断是下载仍有进展、加载没有结束,还是界面与进程状态对不上。本文聚焦 Router 的状态通知问题,以下检查顺序不需要先升级。

在实际程序所在目录运行 llama-server --version;Windows 可用 .\llama-server.exe --version,记录输出的版本与 build 信息。不要用 -v 代替,它表示详细日志。若机器装过多套程序,连同可执行文件完整路径一起保存,避免查的是新文件,后台跑的仍是旧实例。

把检查记录写成一行也可以:程序路径、版本、启动时间、端口、模型 ID、最后一次观察时间。随后每次观察只补状态和新日志,不重写前面的基线。这样在换窗口、重启测试实例或向别人描述问题时,仍能分清哪份输出属于哪一次启动。

对照启动命令,区分单模型与 Router

不指定模型启动 llama-server 会进入 Router,可用缓存、--models-dir 或 --models-preset;-m 路径则是普通单模型启动。先查实际命令,不要根据窗口标题猜模式。

例如你维护两个启动快捷方式,先把发生问题的那个展开,记下工作目录、模型来源和监听端口。接下来的日志与查询都指向这一实例。若只能复现普通单模型下载失败,就先按它自己的错误定位,不要为了套用本文的修复而改成 Router;切换架构会引入新的比较变量。

还要核对前端实际连接的地址。浏览器里仍开着旧端口时,新窗口的日志再正常也不能解释旧页面。先让页面、请求和服务窗口对应起来,再讨论版本差异;如果多个模型同时活动,整理记录时只选当前要排查的一个,避免把另一项的进展算到它身上。

只读核对模型状态与下载事件

向自己的 Router 地址发 GET /models,按 id 找目标,读取 status.value:downloading、loading 与 loaded 表示不同阶段。失败示例是 unloaded 同时带 failed:true、exit_code;不要寻找名为 failed 的状态值。不加 ?reload=1,它可能卸载来源已变化的模型。

后台开始下载不代表完成。文档给出的观察方式是 /models/sse 中的 download_finished 或 download_failed,随后再 GET /models 确认列表。下载完成与模型已加载也要分开看。对照时记录同一模型和相近时间;中途才接入事件流没有看到完成事件,不能单独证明下载失败。

b11401 修复什么,什么还不能据此判断

b11401 于 2026 年 10 月 5 日发布,属于预览,正式 latest 仍是 v0.5.0。对应 PR29895 将 Router 子进程的命令与日志分开传输,修复状态通知被日志干扰的问题。

这给“进程似乎完成、Router 却仍停在下载中”的排查提供了具体线索,但症状相似不能直接锁定原因。先保留问题发生前后的连续日志,检查有没有明确失败信息,再对照自己的模式和版本。普通单模型没有这条 Router 子进程通信路径;本次更新也不能据此排除模型来源、磁盘或其他独立问题。

需要验证预览时,保留一个能回去的组合

以下是便于比较的操作建议。先保留当前整套程序目录、启动参数和 preset,记录模型路径;到固定 b11401 发布页按系统、架构与后端选择资产,另解压到新目录,不把新旧可执行文件与配套库混在一起。先读新目录的版本输出,再准备测试启动方式;不要只凭压缩包名称确认当前运行版本。

为测试实例选一个未使用端口,按原有模式与参数建立对照,并确认日志不会覆盖旧记录。一次只改程序版本,暂不同时更换模型或量化;也不要让两个实例争用同一下载目标。观察先前卡住的步骤是否能继续,保留状态、事件和错误的对应记录。若结果更差,停下测试实例,再用旧目录与原参数恢复;这不是官方自动回退保证,也不代表任何模型都能无条件降级。

把 Windows 显示问题与真正失败分开

这次还调整了 Windows 控制台 ANSI 颜色显示,属于另一种表现。已有 --log-colors off 可以关闭彩色日志;它能帮助排除显示干扰,却不能代替 Router 管道修复。只看到转义字符或颜色异常时,先比较同一日志的文本内容,不要仅凭外观判断模型下载结果。

需要求助时,准备一份最小记录:程序路径与版本、启动方式、目标模型、问题前后时间,以及去掉凭据和私人路径的相关输出。写清旧版与预览各自停在哪一步,避免把“窗口有反应”作为成功标准。本文依据固定源码和官方文档整理,未安装或运行验证;如果尚未找到相符证据,可以继续保留现有组合,等原因更明确后再选择版本。

资料来源

常见问题

b11401 是稳定版,所有人都需要升级吗?

不是,它是预览;是否尝试应按自己的症状和验证条件决定。

看到下载进度不动,可以直接删除模型重下吗?

先保留现场并整理同一模型的日志、状态和时间记录。贸然删除会失去对照,也可能让排查变成一轮新的下载;先弄清失败发生在哪一步。

关闭日志颜色后显示正常,能证明问题修好了吗?

不能以界面外观代替流程验收。应再次观察原先失败的步骤及后续结果,确认同一模型的记录能相互对应。