新闻  |   论坛  |   博客  |   在线研讨会
传字节已向英伟达下10亿美元大单!AI服务器需求“爆表”
芯片大师哥 | 2023-06-23 16:47:51    阅读:270   发布文章

导读:近日据凤凰网消息,今年春节后,拥有云计算业务的中国各互联网大公司都向英伟达下了大单,其中字节今年向英伟达订购了超过10亿美元的GPU,另一家大公司的订单也至少超过10亿元人民币。


图:英伟达H100加速卡


据一位接近英伟达的人士称,字节跳动目前已经到货和没到货的A100与H800加速卡总计有10万块。其中H800今年3月才开始投产。据估计,仅字节跳动一家公司今年的订单可能已接近英伟达去年在中国销售的商用GPU总和


一名字节人士透露,字节在2020年6月GPT-3发布后曾借助V100计算卡训练过一个数十亿参数的生成式语言大模型,但由于参数规模有限,这个模型生成能力一般,字节当时看不到它的商业化可能性故不了了之。


另一位阿里云人士表示阿里也曾在2018-2019年积极采购GPU,当时采购量至少达到上万块规模,包括V100和T4计算卡,其中约十分之一送到了达摩院用作AI技术研发,这也用在了2021年发布的万亿参数大模型M6中。


图:英伟达H100真身


消息人士提到,字节、阿里等大公司主要是和英伟达直接谈采购,因为代理商和二手市场难以满足其庞大需求,而英伟达会按目录价,根据采购规模给出一定的折扣


目前NVIDIA在售的加速卡至少有9款型号,其中用于AI语言大模型训练的4款高性能型号分别是V100、A800、A100及H100


其中推出较早的V100加速卡至少10000美元,人民币约合6.9万元,对中国市场“特供”的A800售价12000美元,人民币8.3万元,A100售价在1.5万美元,人民币至少10.35万元,现任“旗舰”H100加速卡官方售价3.65万美元,人民币超过25.2万元


同时,对AI的巨大需求也体现在云服务器代工供应链。


图:搭载8组H100的计算阵列


近日,全球服务器电源和代工大厂台达董事长表示,各大厂进入AI军备竞赛,初期急单很多,“Google、Meta和中国大陆的厂商都很急,下半年订单一直进来”,同时预计这波需求会在今年第4季到明年发酵。


另一家AI服务器代工大厂英业达预计,内建4或8颗GPU的AI伺服器产品明年起出货量至少有两位数增长。


鸿海集团内负责AI服务器业务的鸿佰科技规划新增五到六条生产线,以应对AI服务器客户要求,除既有客户微软与亚马逊之外,Meta、苹果等大客户也将加入今年出货行列。


*博客内容为网友个人发布,仅代表博主个人观点,如有侵权请联系工作人员删除。

参与讨论
登录后参与讨论
立创商城旗下自媒体,半导体上下游数据、爆料、原创观察
推荐文章
最近访客