12GB显存显卡跑125B模型：Strata登场

IT之家 10 月 6 日消息，科技媒体 gigazine 今天（10 月 6 日）报道，报道称开发者 Niko1221 开源推出 Strata 引擎，可以在 12GB 及以上显存的消费级显卡上，运行量化的 Qwen3.8-Flash-Next 模型（1250 亿参数）。

豆包自动本地部署千亿级大模型qwen3.8 flash 50+tockens

摘要随着大模型技术的快速发展，普通用户在自己的电脑上本地运行千亿参数级大模型已经成为现实。本文以开源项目 Strata 为基础，详细介绍如何借助豆包AI助手，通过“下载源码、解压源码、投喂路径”三个核心步骤，自动完成 Qwen3.

Qwen 3.8 Flash Next 本地推理的王者：Strata

Strata 的设计旨在让用户在消费级笔记本电脑和台式机 GPU 上运行参数高达 125B 的Qwen3.

在普通电脑上跑125B超大模型？开源神器Strata深度介绍

1250亿模型跑进游戏显卡，124 token/s

> 今天 Hacker News 上最热闹的三条，其实都在讲同一件事：藏。

在普通电脑上跑125B超大模型？开源神器Strata深度介绍

最近本地AI圈又出了一个狠角色——Strata。它是一个由 Niko1221 主导开发的开源本地推理引擎（MIT 许可），核心目标非常直接：让普通人在普通消费级硬件上跑超大参数模型。目前最能打的代表作是跑 Qwen3.8-Flash-Next（约125B参数的MoE模型）。

Token自由之路，Strata 又更新了，本地部署大模型的不二之选

Strata（Niko1221/Strata，本地LLM推理引擎） 项目简介：MIT协议开源C++本地推理引擎，目标在消费级PC上运行Qwen3.