SnowLLM
GitHub ↗
Skip to content
SnowLLM / 文档

安装 ​

环境要求 ​

  • Linux x86_64 或 Windows 11,AMD gfx1151(Ryzen AI Max 300 / 400 系列,即 Strix Halo 和 Gorgon Halo)。也支持 WSL2;ROCm 在 WSL2 中通过 /dev/dxg 访问 GPU,请先按照 AMD WSL 指南 完成配置。
  • ROCm 7.x。
  • Python 3.10 – 3.14,以及 ROCm 版本的 torch 和 torchvision,见下文。

选择安装方式 ​

系统安装方式
Linux安装脚本或手动安装
WSL2在 WSL2 中使用安装脚本或手动安装
Windows 11(原生)仅支持手动安装

Linux / WSL2:安装脚本 ​

在 Linux 或 WSL2 终端中运行。安装脚本不支持原生 Windows。

sh
curl -fsSL https://snowllm.dev/install.sh | sh
  • 下载前检查 GPU、驱动访问权限、Python、磁盘和网络。
  • 安装到 ~/.local/share/snowllm,将 snowllm 链接到 ~/.local/bin;XDG 或 SNOWLLM_* 设置可以覆盖这些路径。
  • 再次运行即可升级。卸载命令:curl -fsSL https://snowllm.dev/install.sh | sh -s -- --uninstall。

Linux / WSL2:手动安装 ​

也可以手动安装。torch 和 torchvision 必须来自 AMD 的软件源:

sh
# https://rocm.docs.amd.com/projects/ai-ecosystem/en/latest/frameworks/pytorch/install.html {#https-rocm-docs-amd-com-projects-ai-ecosystem-en-latest-frameworks-pytorch-install-html}
pip install --index-url https://repo.amd.com/rocm/whl-multi-arch/ \
    "torch[device-gfx1151]==2.12.0+rocm7.14.0" \
    "torchvision==0.27.0+rocm7.14.0"
pip install snowllm snowllm-kernels

Windows:手动安装 ​

原生 Windows 仅支持手动安装。在 PowerShell 或命令提示符中,使用你的 Python 环境运行以下命令。torch 和 torchvision 必须来自 AMD 的软件源:

powershell
python -m pip install --index-url https://repo.amd.com/rocm/whl-multi-arch/ "torch[device-gfx1151]==2.12.0+rocm7.14.0" "torchvision==0.27.0+rocm7.14.0"
python -m pip install snowllm snowllm-kernels

如果在 Windows 上使用 WSL2,请在 WSL2 内按照上面的 Linux / WSL2 步骤安装。

下一步 ​

下载第一个模型并开始聊天。