英伟达全新GPU B200发布：一台服务器相当于一个超级计算机
在今天开幕的GTC 2024上，黄仁勋带来了新的B200 GPU，其拥有2080亿个晶体管，可提供高达20petaflops的FP4算力。
至于GB200，就是将两个GPU和一个Grace CPU结合在一起，可为LLM推理工作负载提供30倍的性能，同时还可能大大提高效率。英伟达也形象给出了提升的高度，比如训练一个1.8万亿个参数的模型以前需要8000个Hopper GPU和15兆瓦的电力。如今，2000个Blackwell GPU就能完成这项工作，耗电量仅为4兆瓦。
不过，英伟达并没有公布关于B200和其相关产品的价格，只表示亚马逊、谷歌、微软和甲骨文等公司都已计划在其云服务产品中装配NVL72机架，但没有公布这些公司的购买数量，只透露了亚马逊AWS已计划采购由2万片GB200芯片组建的服务器集群，可以部署27万亿个参数的模型。
转载声明：本文为转载发布，仅代表原作者或原平台态度，不代表我方观点。今日澳洲仅提供信息发布平台，文章或有适当删改。对转载有异议和删稿要求的原著方，可联络content@sydneytoday.com。
相关新闻
今日评论
网友评论仅供其表达个人看法，并不表明网站立场。
最新评论(0)
暂无评论
热评新闻
+61
+86
+886
+852
+853
+64
