SnowLLM
GitHub ↗
Skip to content
SnowLLM / 文档

配置 ​

守护进程首次启动时创建 JSON 配置文件。pull、recipes 和通过方案直接启动推理时也会读取同一文件。

文件位置 ​

系统默认路径
Linux~/.config/snowllm/config.json,或 $XDG_CONFIG_HOME/snowllm/config.json
Windows%APPDATA%/SnowLLM/config.json

Windows 在新位置的文件创建前,继续使用已有的 ~/.config/snowllm/config.json。通过 SNOWLLM_CONFIG 选择其他文件,守护进程也可使用 snowllm webui --config PATH。

json
{
  "models_dir": "D:/Models",
  "recipes_url": "https://snowllm.dev/recipe.json",
  "library_path": null
}

相对路径基于配置文件所在目录解析。支持 UTF-8 路径和 UTF-8 BOM。

覆盖优先级 ​

从高到低排列:

设置优先级
模型根目录--models-dir → SNOWLLM_MODELS → JSON models_dir → ~/models
方案目录--catalogue → SNOWLLM_RECIPES_URL → JSON recipes_url → 内置 URL
内核库SNOWLLM_LIB → JSON library_path → 已安装的 snowllm-kernels

webui、pull 和 recipes 支持 --models-dir;独立运行的 pull、recipes 和 pi 支持 --catalogue。直接推理服务读取环境变量和 JSON 设置。

保存设置 ​

使用 Web UI 设置页面,或在守护进程运行时执行:

sh
snowllm webui config --models-dir ~/models
snowllm webui config --recipes-url https://example.com/recipes.json
snowllm webui config --library-path /path/to/build/lib/libsnowllm.so
snowllm webui config --library-path ""

变更对后续加载和下载生效,不会移动文件;切换内核库后需重新加载模型。将 recipes_url 或 library_path 设为空会删除已保存的覆盖值。命令行和环境变量仍优先。手动修改 JSON 后需重启守护进程。

环境变量 ​

变量用途
SNOWLLM_CONFIG配置文件。
SNOWLLM_MODELS模型根目录。
SNOWLLM_RECIPES_URL方案目录 URL 或本地 JSON 文件。
SNOWLLM_LIB覆盖内核库。
SNOWLLM_NO_UPDATE_CHECK设为 1,关闭启动更新检查。
SNOWLLM_NO_USAGE_STATS启动服务前设为 1,关闭使用统计遥测。
DO_NOT_TRACK启动服务前设为 1,关闭使用统计遥测。
HF_ENDPOINTHugging Face 地址或镜像;下载凭据会发送到该主机。
SNOWLLM_HF_TOKEN下载 token,优先于 HF_TOKEN。
HF_TOKEN下载 token;还会回退到 HUGGING_FACE_HUB_TOKEN 和已保存的 HF token。
SNOWLLM_HOME安装目录,默认为 $XDG_DATA_HOME/snowllm 或 ~/.local/share/snowllm。
SNOWLLM_BIN_DIR安装命令目录,默认为 $XDG_BIN_HOME 或 ~/.local/bin。
SNOWLLM_PYTHON安装脚本使用的 Python 解释器。