开源 GPUStack:把零散异构显卡拼成算力网,自托管跑大模型
这两年「算力焦虑」反复成为公共话题,最近「赵本山一人承包中国一半算力」的段子刷屏,背后是大量团队真实的困境:手里的显卡散落在几台机器、几种架构、几个机房里,永远凑不出一整张能跑大模型的卡。
别急着买 5090!显存危机下,GPUStack 让 4500 块的 V100 跑起新模型
RTX 5090 新卡 4 万起步,随着 RTX 5090 32G 魔改 96G,导致大量卡被扫货,后续黄牛还在往上加价;停产已久的二手 4090 都要 2 万以上;数据中心里的 H100,一张二手都要 17 万起步,够在小城市付个首付。这轮“显存危机”有多疯?
GPUStack,要做异构智算时代的 Windows
几个月前,帝欧水华董事长朱江还是GPUStack的8万用户之一。几个月后,GPUStack用户总数从8万飞速攀升至11万,而捕捉到这家创新公司成长契机的帝欧水华,也成为了GPUStack的战略投资者。
AI 不需要 K8s?专访 GPUStack:一场会议后,他们放弃了数百万营收,转向 AI Infra
“做事情就得边开车边修轮子,你得往正确的方向走,不能等坐上保时捷了才出发。”在创立 Rancher 的岁月里,他们曾带着团队把 Kubernetes 推进了中国四万家企业的大门,涵盖中国平安、中国联通与上汽集团。
大模型实战|实测:8 卡平头哥 ZW610E,在 GPUStack 上跑通大模型
一台 8 卡平头哥 PPU 一体机,从环境探测到 1966 tok/s 压测的完整部署实录——按「环境 / 流程 / 实测 / 踩坑」四段展开,照着就能复刻。项目配置 算力8×PPU-ZW610E,每卡 48GB软件栈GPUStack v2.3.0 + vLLM 0.23.
官方说不支持?我用 GPUStack 在 DGX Spark 上跑通了 Qwen-Image-2.1
一台 2025 年底上市的 ARM 小盒子。121GB 统一内存,一块 GB10,官方文档里写着这类模型跑不了它的架构。现在它对外提供一个 OpenAI 兼容的图像接口,文生图、改图、原生透明底、LoRA 四项全通。硬件一点没动,驱动没升级,也没有第二台机器。
深耕AI Infra赛道!GPUStack以全栈软件体系重构国产算力“最后一公里”
来源:环球网 【环球网科技报道 记者 冯超男】当前,算力产业的增长引擎正悄然换挡,需求重心从模型训练向推理侧迁移。对于国内市场而言,国产算力芯片采购渠道通畅,具备硬件落地的基础优势,不过从底层驱动到上层服务的全栈软件支持仍显薄弱,导致硬件性能未能充分释放。
国产GPU越来越多,为什么反而更难用
先看两个同时发生的现象。一边是硬件在快速铺开。 据证券时报e公司的报道,摩尔线程在无锡落地的国产智算中心一期,2000张 MTT S5000 GPU 算力资源实现满载运行。据南方都市报的报道,天数智芯发布了超节点方案,单机柜集成144颗GPU与18颗CPU,配备约10.
集结信通院、GPUStack、PPIO、清程极智等顶尖大脑,9月21日,AICC 2026 邀你见证“Token工厂”如何重构AI产业
上午主会汇聚了相关领域院士以及来自清华大学、IDC、浪潮信息、北极雄芯、SGLang 等知名机构和领先企业的专家代表,覆盖芯片、系统、大模型、软件等多个领域。