在AI算力范畴,NVIDIA长时间占有主导地位,但AMD的最新GPU产品MI300X在性能上总算展示出了与NVIDIA H100/200相比美的实力。
成果显现,在AI推理使命中,MI300X GPU的性能与H100 GPU平起平坐,加上对GPU本钱及体系总本钱的估量,说MI300X GPU能比美H100和H200 GPU也不为过。
值得注意的是,这些测验仅使用了来自Meta的Llama 2 70B,虽然测验存在局限性,但这一成果依然标明,AMD的MI300X GPU在处理大型AI模型方面具有强壮的潜力。
业内人士也对AMD在AI范畴的发展前途持乐观态度,Transformer作者及Cohere公司创始人之一艾丹戈麦斯表明,他信任AMD和Tranium等渠道将很快进入干流商场。