本地推理。
为一颗芯片精心优化。

在 Ryzen AI Max APU 上运行本地大模型，针对低并发场景优化。

01安装 SnowLLMLinux / WSL2 可使用安装脚本，Windows 请手动安装。↗02运行第一个模型下载模型，打开 Web UI，开始聊天。↗03接入常用工具使用 Pi，或兼容 OpenAI / Anthropic 的 API。↗

环境要求

Linux、Windows 11 或 WSL2，搭配 gfx1151 APU。目前在 Ryzen AI Max+ 395 上验证；其他 Ryzen AI Max 300 / 400 APU 尚未验证。

安装要求 · 支持的模型

使用指南

• Web UI：下载、加载与聊天。
• 性能调优：内存、上下文与推测解码。
• 命令行选项：参数与默认值。
• 配置：存储与环境变量。
• 使用统计：采集字段、上报方式与关闭设置。

性能测试 · 社区讨论