大模型预训练集群
训练加速卡 · SXM 模块
以 96GB 高带宽训练卡为节点核心，配高速互联交换与并行文件系统，适合长上下文与多模态预训练任务的规模化排布。
BF163TB/s 以上SXM多机互联
SPEC MATRIX
乐球体育加速卡规格横向对比表
同一张表里对齐精度、显存容量、显存带宽与封装形式，训练卡与推理卡分列标注，方便逐行比对。
| 型号 | 类型 | 主要精度 | 显存容量 | 显存带宽 | 封装形式 | 典型场景 |
|---|---|---|---|---|---|---|
| HX-T80 | 训练卡 | FP32 / BF16 | 80GB HBM | 2.0TB/s | SXM 模块 | 大规模预训练、分布式并行 |
| HX-T96 | 训练卡 | FP16 / BF16 / FP8 | 96GB HBM | 3.35TB/s | SXM 模块 | 长上下文训练、多模态对齐 |
| HX-T48P | 训练卡 | FP16 / BF16 | 48GB GDDR | 0.86TB/s | PCIe 双槽 | 单机微调、教学实验环境 |
| QX-I24 | 推理卡 | INT8 / INT4 | 24GB GDDR | 0.67TB/s | PCIe 单槽 | 边缘推理、轻量视觉服务 |
| QX-I48 | 推理卡 | FP16 / INT8 | 48GB HBM | 1.2TB/s | PCIe 双槽 | 在线推理、批量文本生成 |
| QX-I96O | 推理卡 | FP8 / INT8 / INT4 | 96GB HBM | 2.4TB/s | OAM 模块 | 高并发服务、长文本推理 |
| QX-I32S | 推理卡 | INT8 / INT4 | 32GB GDDR | 0.9TB/s | PCIe 单槽 | 视频结构化、模型量化部署 |
表中字段用于横向阅读与方案讨论，实际选型请结合整机功耗、互联拓扑与软件栈版本综合评估。
SOLUTION
乐球体育整理的常见方案组合
按训练、微调、推理三类负载把卡型与整机形态配对，给出可直接拿去讨论的方案骨架。
单机微调工作站
训练加速卡 · PCIe 双槽
48GB 显存的 PCIe 双槽训练卡搭配通用服务器，兼顾显存容量与机箱兼容性，适合团队内部微调与实验复现。
FP1648GBPCIe 双槽单机部署
高并发在线推理
推理加速卡 · OAM 模块
FP8 与 INT8 混合精度推理卡，配合批处理调度与显存分片策略，面向长文本与高并发请求的服务端形态。
FP8INT896GBOAM
边缘轻量推理盒子
推理加速卡 · PCIe 单槽
单槽低功耗推理卡放入紧凑机箱，量化后跑视觉识别与结构化任务，适合场馆周边与本地化部署场景。
INT8INT424GBPCIe 单槽
训练推理混合节点
训练卡 + 推理卡混插
同一台整机内混插训练卡与推理卡，白天跑推理服务、夜间做微调任务，提升设备利用率与预算弹性。
BF16INT8混插分时调度
教学与验证环境
中容量卡 · 通用主板
以 32–48GB 容量段卡型为主，配合可复现的环境镜像与规格对照表，用于课程演示与方案可行性验证。
FP1632GB48GBPCIe
HOW TO PICK
乐球体育的四步选型路径
先定负载类型，再锁定精度与显存，最后核对带宽与封装，避免在整机兼容性上返工。
确定负载类型
先区分预训练、微调还是在线推理，训练卡与推理卡在显存带宽与精度支持上的侧重并不相同。
锁定精度与显存
按模型参数量与批大小估算显存下限，再确认 FP16、BF16、INT8、INT4 中哪些精度是必需项。
核对带宽与互联
带宽决定显存与计算单元之间的数据吞吐，多卡方案还要看节点内互联与跨机通信的拓扑结构。
确认封装与整机
PCIe 单槽、双槽与 SXM、OAM 模块对机箱、供电与散热要求差异明显，需与整机规格一并确认。
RELATED
产品与方案相关文章
围绕加速卡规格、精度取舍与方案组合的延伸阅读。
推理加速卡榜单盘点：低精度吞吐与显存带宽谁更值得先看
围绕推理加速卡的公开规格做一次榜单式盘点，比较低精度吞吐、显存带宽、容量与封装形态的取舍关系，并结合乐球体育产品与方案栏目的筛选字段，给出可复用的对比顺序建议。
赛季中段选型复盘：推理加速卡方案组合的四个判断点
赛季进入中段，讨论热度从单卡峰值转向方案落地。乐球体育从精度覆盖、显存余量、带宽口径与封装适配四个判断点出发，给出推理加速卡的复盘框架，帮读者把公开规格转成可讨论的组合。
训练卡与推理卡规格横评：精度、显存、带宽、封装怎么读
从公开规格出发，把训练加速卡与推理加速卡放在同一张对照表里，讲清精度支持、显存容量、带宽口径与封装形式四项字段的读法，帮乐球体育读者快速锁定适合讨论的芯片型号与方案组合。
从跑分到实战：量化与稀疏化如何影响端侧AI推理效率
结论前置：端侧AI芯片的推理效率不只看TOPS，量化位宽与稀疏率共同决定显存占用、带宽压力和实际延迟。本文用可核验的公开口径拆解取舍逻辑，并给出选型核对清单。
推理芯片显存带宽瓶颈怎么破？前瞻三条封装路线取舍
从推理负载对显存带宽的真实需求出发，梳理近存计算、HBM堆叠与Chiplet封装三条路线的适用边界，给出可核验的选型判断框架，帮助读者理解带宽瓶颈背后的工程取舍。
AI推理芯片封装路线盘点：从2.5D到3D的六种主流方案
围绕AI推理芯片的封装演进，梳理硅中介层、扇出型、3D堆叠等六种公开路线，结合带宽、成本与量产成熟度给出选型参考，并提示乐球体育读者关注生态配套。
AI 推理芯片显存带宽怎么读：一份给球迷的硬核科普
从看球场景切入，拆解推理芯片为何常被显存带宽卡住，讲清带宽、容量、能效与部署成本的关系，并给出读规格书的实用顺序，帮助乐球体育读者建立可复用的判断框架。
推理部署芯片榜单观察：能效比与显存容量如何影响选型
从公开规格出发，盘点当前推理部署中能效比、显存容量与互联能力三类关键指标，给出不同部署规模下的选型思路，乐球体育提示读者结合生态与交期综合判断。
TRENDING
乐球体育产品与方案热度榜
读者近期关注度较高的规格解读与方案讨论。
- 1 一位青训教练的平板电脑：端侧AI如何改变业余球队的赛后复盘 25664 阅读
- 2 互联拓扑怎么选：多芯粒封装下带宽与延迟的数据化取舍 25226 阅读
- 3 复盘显存带宽与互联拓扑：从赛季中段数据看训练推理芯片的取舍逻辑 23284 阅读
- 4 边缘推理芯片选型前瞻：算力、内存与生态如何排优先级 16967 阅读
- 5 从一次门线悬案说起：半自动越位技术里的芯片算力账 4166 阅读
乐球体育客户端下载
在客户端里查看赛事预告、深度资讯与专家问答，随时把规格对照表放在手边。