本站已收录 510+ 篇 AI 实战秘籍 · 人工审核筛选 450+ 个 AI 网站 · 每周一、四更新 查看最新

NVLink 6与Scale-Up互联架构:从GPU到机架级AI计算

技术领域:AI硬件互联 / 并行计算hrJ找找AI | 免费AI工具导航 | 人工筛选靠谱优质 AI 工具!
hrJ找找AI | 免费AI工具导航 | 人工筛选靠谱优质 AI 工具!
新一代AI芯片平台(如Vera Rubin NVL72)将72颗GPU与36颗CPU通过高带宽域(HBD)直接互联,其核心技术是第六代NVLink:hrJ找找AI | 免费AI工具导航 | 人工筛选靠谱优质 AI 工具!
hrJ找找AI | 免费AI工具导航 | 人工筛选靠谱优质 AI 工具!
物理层:NVLink 6单链路双向带宽达到200 GB/s(单向100 GB/s),每颗GPU配置18条链路,总聚合带宽3.6 TB/s。采用PAM4调制和8路并行传输,信号频率达32 GHz。hrJ找找AI | 免费AI工具导航 | 人工筛选靠谱优质 AI 工具!
hrJ找找AI | 免费AI工具导航 | 人工筛选靠谱优质 AI 工具!
拓扑结构:全对全的胖树(Fat-Tree)拓扑,任意两颗GPU之间的通信延迟低于400纳秒。跨36颗GPU的All-Reduce操作可在50微秒内完成。hrJ找找AI | 免费AI工具导航 | 人工筛选靠谱优质 AI 工具!
hrJ找找AI | 免费AI工具导航 | 人工筛选靠谱优质 AI 工具!
共享内存模型:通过内存语义访问远端GPU的显存,无需软件拷贝。统一地址空间下,指针可以直接在任意GPU上解引用。hrJ找找AI | 免费AI工具导航 | 人工筛选靠谱优质 AI 工具!
hrJ找找AI | 免费AI工具导航 | 人工筛选靠谱优质 AI 工具!
机架级集成:72颗GPU + 36颗CPU + 高速背板 + 液冷模组整体封装在一个机架内。机架内部带宽是机架间网络(Spectrum-6以太网)的50倍以上。hrJ找找AI | 免费AI工具导航 | 人工筛选靠谱优质 AI 工具!
hrJ找找AI | 免费AI工具导航 | 人工筛选靠谱优质 AI 工具!
训练MoE模型效率:MoE模型的专家分布在多颗GPU上,all-to-all通信频繁。NVLink 6的广播与规约指令在硬件层完成了专家分发与结果汇总,使得训练同样规模的MoE模型所需GPU数量减少为原来的1/4。hrJ找找AI | 免费AI工具导航 | 人工筛选靠谱优质 AI 工具!
hrJ找找AI | 免费AI工具导航 | 人工筛选靠谱优质 AI 工具!
这种Scale-Up(纵向扩展)架构与Scale-Out(横向扩展)网络一起构成AI工厂的完整互联体系,将单机柜算力密度推至新高度。

前往 DeepSeek 体验 消息来源:DeepSeek 官方公告 · 本站快讯组整理