更值得一提的是,GB200在能耗和成本方面实现了显著突破。上一代H100的峰值功率高达700瓦,而训练一个1.8万亿参数的模型需要动用8000个Hopper GPU和消耗15兆瓦电力。相比之下,GB200以仅为H100四分之一的成本和能耗,便能完成相同的任务,仅需2000个Blackwell GPU ...
准备冲刺IPO的国产GPU(图形处理器)厂商又添一家。11月12日,摩尔线程智能科技(北京)股份有限公司(下称“摩尔线程”)在北京证监局办理辅导备案登记,启动A股上市进程,辅导机构为中信证券。在此之前,AI芯片公司燧原科技、壁仞科技也启动了上市辅导备案。
IT之家 11 月 14 日消息,科技媒体 WccfTech 昨日(11 月 13 日)发布博文,报道称英伟达首次公布了 Blackwell GPU 在 MLPerf v4.1 AI 训练工作负载中的成绩,在训练 Llama 2 70B ...
Nvidia、甲骨文、谷歌、戴尔和其他 13 家公司报告了他们的计算机训练当今使用的关键神经网络所需的时间。这些结果包括首次亮相的Nvidia 下一代 GPU ...
【ITBEAR】科技巨头英伟达近日在业界引发了广泛关注,随着其最新推出的Blackwell GPU,AI训练的速度较其前身Hopper GPU提升了惊人的2.2倍。这一消息不仅展示了英伟达在人工智能计算领域的先锋地位,也标志着AI训练大模型的效率提升进入了一个新阶段。
本周二,Nvidia的股价再次超越苹果,成为全球最有价值的公司,继今年6月创下类似纪录后,再度迎来辉煌时刻。在过去两年中,凭借GPU的强大算力,Nvidia在AI时代可谓风光无限,芯片性能不断攀升,取得了巨大的市场成功。
环球老虎财经专栏 on MSN9 天
HBM,最新展望!
我们可以通过多种方式来扩展计算引擎的内存容量和内存带宽,从而更好地驱动 AI 和 HPC 工作负载,而目前我们能够做到的还远远不够。但是,我们可能做的任何事情(目前有许多有趣的光学 I/O ...
新智元报道  编辑:静音【新智元导读】一文揭秘全球最大AI超算,解析液冷机架和网络系统的创新设计。这台全球最大AI超算Colossus由xAI和英伟达联手建造,耗资数十亿,10万块H100仅半个多月搭建完成,未来规模还将扩大一倍!两个月前,马斯克才刚刚自曝了xAI的Colossus超算,称其是世界上最强大的AI训练系统。最近,马斯克 ...
目前,Colossus的第一阶段建设已完成,集群全面上线,但这并不是终点。它将很快迎来升级,GPU容量将翻倍,新增5万块H100 GPU和5万块下一代H200 GPU。