Strata
Strata 是一个开源项目,能让普通电脑在仅 8GB 显存、16GB 内存的条件下本地运行 1250 亿参数的 Qwen3.8-Flash-Next 大模型。它通过将模型部分权重分配到系统内存甚至 SSD,大幅降低显存占用,使 RTX 3060、RTX 4060 Ti 等常见显卡也能跑起千亿参数模型。适合想在本地体验大模型、但硬件有限的开发者和 AI 爱好者。
小众软件
Strata 是一个开源项目,能让普通电脑在仅 8GB 显存、16GB 内存的条件下本地运行 1250 亿参数的 Qwen3.8-Flash-Next 大模型。它通过将模型部分权重分配到系统内存甚至 SSD,大幅降低显存占用,使 RTX 3060、RTX 4060 Ti 等常见显卡也能跑起千亿参数模型。适合想在本地体验大模型、但硬件有限的开发者和 AI 爱好者。