MLPerf公布了最新的大模型推理测试结果,墨芯人工智能公司的S30计算卡在单卡、4卡和8卡的性能测试中均夺得第一名。墨芯通过独创的双稀疏算法与硬件协同设计,在***-J大模型上取得了比英伟达H100高出1.8倍的性能优势。
这一成绩证明了稀疏计算在大模型时代中的重要性,它可以根本性地解决大模型参数增长与算力瓶颈之间的矛盾。墨芯已经推出了支持多种大模型的AI计算平台,具有高性能和高效率。
业界认为,墨芯等稀疏计算创新将推动大模型应用在各行各业中的深入发展。墨芯在MLPerf的表现不仅肯定了其产品的实力,也证明稀疏计算将帮助大模型算力实现根本性变革。