蚂蚁集团WAIC发布大模型密算平台,助力大模型破解数据供给挑战

在2024年世界人工智能大会的第二天,蚂蚁集团作为数据要素领域的关键技术推动者,正式推出了“隐语Cloud”大模型密算平台,这一创新举措直击大模型向垂直行业深化应用时面临的两大核心难题:高质量数据供给的稀缺与数据流通的安全保障。

面对行业大模型对于专业数据训练的迫切需求与数据流动的实际障碍,“隐语Cloud”平台通过其独特的软硬件结合的可信隐私计算技术,实现了数据在密态下的高效流转与利用。该平台的核心在于其两大核心服务:大模型密态托管与大模型密态推理。前者允许模型提供方安全地将加密模型托管于云端,有效防止模型资产的外泄与盗用;后者则确保数据在加密状态下完成推理过程,保障了用户数据、商业机密及个人隐私的安全无忧。

尤为值得一提的是,“隐语Cloud”平台通过优化GPU在可信执行环境下的计算能力,使得密态大模型的推理效率与明文模型相媲美,大大提升了商业应用的可行性与用户体验。同时,平台采用端到端加密、跨域访问控制等先进安全技术,辅以轻量化远程认证功能,为用户提供了既安全又便捷的使用体验。

针对当前企业普遍采用的私有化部署方案所带来的成本高企与效率瓶颈,“隐语Cloud”提供了公有云与专有云相结合的灵活交付方案,支持市面上主流的通用大模型快速接入与部署,极大地降低了企业的运维成本,并促进了跨领域、跨行业数据的高效融合与利用。

蚂蚁集团高层表示,数据供给的质量与隐私计算技术的发展水平直接决定了大模型在产业应用中的上限。随着大模型从通用走向专业,解决高质量数据集稀缺与数据流通难题已成为当务之急。蚂蚁集团通过多年的技术积累与创新,将隐私计算技术全面开源,并积极参与国内外技术标准的制定,旨在与产业伙伴共同推动数据价值的安全、高效流通,为实体经济与中小微企业注入新的活力。

展望未来,“隐语Cloud”大模型密算平台将覆盖大模型从预训练到用户交互的全生命周期,提供包括密态检索、密态提示词在内的全链路工具与服务,进一步推动大模型在垂直行业的深入应用与数据价值的最大化释放。
文心大模型3.5生成

暂无评论

暂无评论...