英伟达GTC 2024黄仁勋主题演讲速览

英伟达GTC 2024黄仁勋主题演讲速览:推出全新Blackwell,采用铜互连和液冷技术,关注Vision Pro和机器人等相关应用融合。

🎁英伟达CEO黄仁勋在GTC 2024发表主题演讲,本次演讲发布了全新的Blackwell GPU平台,详细介绍了GB200和B100等AI计算芯片芯片,同时展示了领先的机架内铜互连方案和液冷方案,NV表示目前苹果Vision Pro已经接入Omniverce Cloud,还现场展示了和下一代机器人的互动场景。

🔥英伟达Blackwell平台-为万亿参数级生成式AI打造:1)2080亿个晶体管的AI芯片;2)第二代Transformer引擎;3)第五代NVLink;4)RAS引擎;5)安全AI;6)解压缩引擎。训练1个GPT-MoE-1.8T模型,需要8000个Hopper GPU训练,功耗15MW,若采用Blackwell架构,只需要2000个GB200 NVL72 GPU,功耗仅4MW。

🔸Blackwell单die:1040亿个晶体管,台积电4NP,Hopper AI性能的5倍,AI算力20petaFLOPS,192GB HBM3e。

🔸Blackwell GPU:2 die互连,2080亿个晶体管。新方案有两种系统:1)配合原有的Hopper系统,直接代替原有的Hopper芯片;2)2Blackwell GPU+1Grace CPU直接集成到单块主板上。

🔸GB200:2Blackwell GPU+1Grace,382GB HBM3e,900GB/s的NVLink-C2C带宽。

🔸GB200 Grace Blackwell Superchip:40 petaFLOPS AI算力。

🔸Blackwell计算节点:4Blackwell GPU+2Grace CPU,80 petaFLOPS AI算力,1.7TB HBM3e,32TB/s内存带宽,液冷MGX设计。

🔸GB200 NVL72:One giant GPU,18 trays/rack,72Blackwell GPU+36Grace CPU,1.4 exaFLOPS AI算力,30TB HBM3e。

🔸NVLink Switch芯片:500亿晶体管,台积电4NP,72接口双200Gb/s Serdes,助力GPU间全速互连。

💥全新机架背部高速铜互连方案带来成本和功耗降低,GB200已支持液冷方案NVLink Switch System具有18个NVLink Switch芯片,72个1.8TB/s接口,全互连聚合带宽达130TB/s。对于GB200计算节点,NVLink Switch和Spine由72个Blackwell GPU采用NVLink全互连,具有5000根NVLink铜缆(合计长度超2英里),NV表示铜互连可带来6倍的成本降低。整个机架功耗达120kW,如果采用光模块方案,功耗将达20kW,仅光模块部分的2kW功率就可驱动NVLink Spine,铜互连方案能带来大幅功耗降低,此外GB200还支持液冷方案,冷却液25度进45度出,流量达2升/s,液冷可使机架冷却功耗2X减少。

☀️NV官方表示目前苹果Vision Pro已经接入NV Omniverce Cloud,同时表示新一代工业革命五要素为:新产业、Blackwell平台、NIMs、NEMO和英伟达AI Foundry、Omniverce和Isaac robotics。英伟达持续和Ansys、新思、Cadence、谷歌、微软、比亚迪等各领域客户展开深度合作。

投资建议:建议关注英伟达及其产业链标的,关注服务器硬件层面所涉及到的GPU、CPU、存储、高速连接器和电光连接、PCB/IC载板、散热、电源、模拟芯片、接口类芯片、RAID卡、功率器件等零部件的投资机会。同时考虑到NV禁令影响持续,建议持续关注建议关注国产GPU/CPU厂商和华为昇腾等自主算力产业链相关公司,以及先进封装和HBM等产业链机会。重点推荐在高速连接器和电连接高速铜缆全球技术领先并能提供电光混合方案、热管理和电源系统方案的【立讯精密】。

股市观点

汽车以旧换新政策专家交流 - 会议纪要

2024-3-17 16:27:15

股市观点

英伟达GTC大会解读:英伟达新架构AI芯片对市场有什么影响?

2024-3-20 8:54:49

搜索