当前位置:首页 > 新闻中心 > 行业新闻
联系姓名:
联系电话:
经营模式:
消费品 家居用品 个人护理用具
行业新闻

AMD跑大模型总算Yes!MI300X比照NVIDIA H1002毫不逊色

更新时间: 2024-11-26 来源:行业新闻

  在AI算力范畴,NVIDIA长时间占有主导地位,但AMD的最新GPU产品MI300X在性能上总算展示出了与NVIDIA H100/200相比美的实力。

  成果显现,在AI推理使命中,MI300X GPU的性能与H100 GPU平起平坐,加上对GPU本钱及体系总本钱的估量,说MI300X GPU能比美H100和H200 GPU也不为过。

  值得注意的是,这些测验仅使用了来自Meta的Llama 2 70B,虽然测验存在局限性,但这一成果依然标明,AMD的MI300X GPU在处理大型AI模型方面具有强壮的潜力。

  业内人士也对AMD在AI范畴的发展前途持乐观态度,Transformer作者及Cohere公司创始人之一艾丹戈麦斯表明,他信任AMD和Tranium等渠道将很快进入干流商场。