Hello folks，我是 Luga，今天我们继续来聊一下人工智能生态相关技术 - 用于加速构建 AI 核心算力的 GPU 硬件技术。    ...

作为当前市场上最受欢迎的GPU制造商之一，英伟达（NVIDIA）推出了多个高性能GPU，尤其是H100、A100、A6000和L40S。这四款GPU具有强大的计算能力和灵活的应用场景，为AI研究和应用提供了强有力的支持。本文将深入比较这几款产品在模型训练和推理任务中的适用性 ...

贾扬清表示，这篇文章将会告诉你有关 H100 GPU 市场的一切。//GPU 市场可能非常复杂，难以驾驭。如果你花了数小时搜索有关 H100 市场的信息，可能会遇到无数带有类似信息的报价：“请与我们的销售人员联系。”所有 GPU ...

而据《华尔街见闻》对GPT-4的细节披露显示，GPT-4总共包含了1.8万亿参数（GPT-3只有约1750亿个参数），相对应的，专家测算，Open AI在25000个A100 GPU上训练，单次训练成本则达到6300万美元，即便是在当下，利用8192个H100 GPU进行训练，也需要2150万美元。 “在Scaling Law ...

人工智能（AI）在多个行业的广泛应用，AI数据中心的需求急剧增长，推动这一趋势的关键技术之一是GPU加速器，尤其是AMD与Nvidia的Instinct和A100/H100等系列产品。

大模型虽然好，但我的笔记本和手机都跑不动呀。 就算勉强能跑起来，也是奇慢无比。 而与此同时，对适合移动和边缘设备的小模型的需求却在不断增长，因为这些模型似乎才能真正满足人们的日常需求。 正因为此，有不少研究者和应用开发者都认为小模型才是 AI 的未来 ...

准备冲刺IPO的国产GPU（图形处理器）厂商又添一家。11月12日，摩尔线程智能科技（北京）股份有限公司（下称“摩尔线程”）在北京证监局办理辅导备案登记，启动A股上市进程，辅导机构为中信证券。在此之前，AI芯片公司燧原科技、壁仞科技也启动了上市辅导备 ...

然而，这个诺奖级AI的「不开源」一直引起学界的不满。谷歌DeepMind只推出了一个免费研究平台「AlphaFold Server」，而且该服务有每日的次数限制。相比于开源的AlphaFold2来说，这种使用方式缺失了很多自由度。

随着中国对半导体产业的重视，国内GPU（图形处理器）行业也在快速发展。近日，摩尔线程智能科技（北京）股份有限公司（下称“摩尔线程”）宣布其即将冲刺A股IPO，成为新的聚焦点。这一消息不仅引发了市场的热烈讨论，也让人们对其与国际巨头英伟达的竞争关系产生了浓厚的兴趣。 摩尔线程成立于2020年，是近年来成长最快的国产GPU企业之一。根据胡润2024全球独角兽榜，摩尔线程的估值高达255亿元，位居一众A ...

摩尔线程被称为“国产英伟达”，其创始人兼CEO张建中曾任职于英伟达，并带领团队推出了MUSA统一GPU架构，类似于英伟达的CUDA技术。摩尔线程的产品线包括AI芯片和消费级显卡，其中AI计算芯片如MTTS2000、MTTS3000和最新发布的MTTS4000，FP32算力分别为10.6TFLOPS、15.2TFLOPS和25TFLOPS。相比之下，英伟达A100的FP32算力为19.5TFLOPS ...

11月8日，Meta公布了他们在智能手机上运行的SmallLanguageModel(MobileLLM)家族的开源计划。他们新增了600M、1B和1.5B三种不同参数版本，这是为了适应用户对高效表现的需求。据Meta的研究人员介绍，MobileLL ...