11-19 更新 实时
首页/ 算力/ 正文

RTX 5090 含税 4.67 万元,中小团队用它补推理

算力 模力观察 · 编辑部 2026-11-02 15:35 3 阅读
RTX 5090 含税 4.67 万元,中小团队用它补推理

消费级旗舰 RTX 5090 32GB 的渠道含税报价约 4.67 万元,租赁市场约 2.4 元/卡时。相较数据中心卡,它的单价低一个数量级。

适合的场景很明确:7B–14B 模型的私有化推理、原型验证、边缘节点。不适合长上下文与大规模并发——32GB 显存很快会被 KV Cache 吃满。

对预算有限的中小团队,“一张数据中心卡做训练、多张消费卡做推理”是更现实的组合,但要注意消费卡的互联与散热设计并非为 7×24 小时准备。