百度王海峰:文心大模型4.0推理性能提升50倍

在最近的第二十届中国计算机大会上,百度首席技术官王海峰表示,百度于3月16日发布了知识增强大语言模型文心一言,并已将其基础模型迭代至文心大模型4.0版本。该知识增强大语言模型通过融合学习从数万亿数据和数千亿知识中获取预训练大模型,并采用有监督精

王海峰还表示,基于更强大的平台、更优质的数据和更好的算法,他们训练出了规模更大、效果更好的文心大模型4.0。通过飞桨与文心的协同优化,模型周均训练有效率超过98%,训练算法效率提升3.6倍,推理性能提升50倍。文心4.0的四大能力——理解、生成、逻辑和记忆——均显著提升,其中理解和生成能力的提升幅度相近,而逻辑和记忆能力的提升则更大,逻辑的提升幅度达到理解的近3倍,记忆的提升幅度也达到了理解的2倍多。

公开数据显示,自文心一言面向全社会开放一个多月以来,用户规模已达到4500万,开发者数量达到5.4万,场景数量为4300个,应用数量为825个,插件数量超过500个。飞桨和文心生态愈加繁荣,已凝聚了800万开发者,服务22万家企事业单位,基于飞桨创建了80万个模型。

版权声明:AI导航网 发表于 2023-10-30 10:01:59。
转载请注明:百度王海峰:文心大模型4.0推理性能提升50倍 | AI导航网

暂无评论

暂无评论...