NVIDIA|NVIDIA发布新一代H100 GPU核心：4nm工艺、1.8万核心、700W功耗显卡|计算卡|Hopper|NVIDIA发布新

黄仁勋终于公布了NVIDIA新一代架构与核心，当然这次是面向HPC高性能计算、AI人工智能的“Hopper” ，对应核心编号“GH100” ，同时发布的还有基于新核心的加速计算卡“H100”、AI计算系统“DGX H100” 。
与传闻不同， GH100核心采用的其实是台积电目前最先进的4nm工艺，而且是定制版， CoWoS 2.5D晶圆级封装，单芯片设计，集成多达800亿个晶体管，号称世界上最先进的芯片。
完整版有8组GPC(图形处理器集群)、72组TPC(纹理处理器集群)、144组SM(流式多处理器单元) ，而每组SM有128个FP32 CUDA核心，总计18432个。
显存支持六颗HBM3或者HBM2e ，控制器是12组512-bit ，总计位宽6144-bit 。
Tensor张量核心来到第四代，共有576个，另有60MB二级缓存。
扩展互连支持PCIe 5.0、NVLink第四代，后者带宽提升至900GB/s ，七倍于PCIe 5.0 ，相比A100也多了一半。整卡对外总带宽4.9TB/s 。
性能方面， FP64/FP32 60TFlops(每秒60万亿次) ， FP16 2000TFlops(每秒2000万亿次) ， TF32 1000TFlops(每秒1000万亿次) ，都三倍于A100 ， FP8 4000TFlops(每秒4000万亿次) ，六倍于A100 。

文章图片

文章图片

文章图片

H100计算卡采用SXM、PCIe 5.0两种形态，其中后者功耗高达史无前例的700W ，相比A100多了整整300W 。
按惯例也不是满血， GPC虽然还是8组，但是SXM5版本只开启了62组TPC(魅族GPC屏蔽一组TPC)、128组SM ，总计有15872个CUDA核心、528个Tensor核心、50MB二级缓存。
PCIe 5.0版本更是只有57组TPC ， SM虽然还是128组，但是CUDA核心只有14952个， Tensor核心只有456个。

文章图片

DGX H100系统集成八颗H100芯片、搭配两颗PCIe 5.0 CPU处理器(Intel Sapphire Rapids四代可扩展至器?) ，拥有总计6400亿个晶体管、640GB HBM3显存、24TB/s显存带宽。
性能方面， AI算力32PFlops(每秒3.2亿亿次) ，浮点算力FP64 480TFlops(每秒480万亿次) ， FP16 1.6PFlops(每秒1.6千万亿次) ， FP8 3.2PFlops(每秒3.2千亿次) ，分别是上代DGX A100的3倍、3倍、6倍，而且新增支持网络内计算，性能3.6TFlops 。
PCIe 5.0版本的性能基本都再下降20％。
同时配备Connect TX-7网络互连芯片，台积电7nm工艺， 800亿个晶体管， 400G GPUDirect吞吐量， 400G加密加速， 4.05亿/秒信息率。

文章图片

文章图片

文章图片

DGX H100是最小的计算单元，为了扩展，这一次NVIDIA还设计了全新的VNLink Swtich互连系统，可以连接最多32个节点，也就是256颗H100芯片，称之为“DGX POD” 。
这么一套系统内，还有20.5TB HBM3内存，总带宽768TB/s ， AI性能高达颠覆性的1EFlops(100亿亿亿次每秒) ，实现百亿亿次计算。
系统合作伙伴包括Atos、思科、戴尔、富士通、技嘉、新华三、慧与、浪潮、联想、宁畅、超威。
云服务合作伙伴包括阿里云、亚马逊云、百度云、Google云、微软Azure、甲骨文云、腾讯云。

文章图片

NVIDIA|NVIDIA发布新一代H100 GPU核心：4nm工艺、1.8万核心、700W功耗

推荐阅读

唐山|河钢与唐山签退城搬迁协议，超700万吨产能置换至乐亭沿海

未来即现在酷比魔方新品iPlay 40 即将问世

家族诅咒真的存在吗历史上被诅咒的五个家族

#小鹏#智能升级小鹏汽车G3 i系列将于成都车展亮相

爱云资讯云天励飞上榜，2019中国独角兽企业榜单发布

北京日报|带伤求职称是被用工单位打了？一男子多次玩“求职碰瓷”被识破

重生细胞自定义模式怎么开，重生细胞自定义模式有什么用

上市|蚂蚁上市，成了！

私立学校|多所高校发布最新通知，大学生迎来“坏消息”，大一新生：很意外

英国卫生部长汉考克对冠状病毒测试呈阳性

心力衰竭的护理(心力衰竭患者应该如何护理？)

MEMS应用创投助力生命科学企业，借力材料工程抗击致命病毒

北京头条客户端|北京：连续90天无新增报告本地确诊病例

张庭|张庭说女儿国际范，却被网友群嘲，直言让她女儿长大整个容

现在任何人都可以练瑜伽吗

金匮肾气丸多久算一个疗程

『手机之家』你的拍照痛点荣耀 30 Pro 都帮你解决啦，放心按快门

中国青年网|让技能人才自信起来

大妈聊事|像麻辣烫店服务员，粉丝一句话有力回怼，易烊千玺被嘲30岁素人脸

草籽图片,草籽喷播机