全球科技巨头联合成立安全人工智能联盟CoSAI
7月19日,快科技从多方渠道获悉,全球科技领域的领军企业谷歌携手微软、亚马逊、英特尔、英伟达、IBM、思科、Paypal、OpenAI、Anthropic、Cohere、Chainguard、WIZ及GenLab等共计14家顶尖公司,于7月18日在美国阿斯彭安全论坛上共同宣布了安全人工智能联盟(CoSAI)的正式成立。这一盛举得到了OASIS全球标准机构的权威支持与主办,标志着AI安全领域迈出了里程碑式的一步。
作为一项具有前瞻性的开源倡议,CoSAI致力于打造一个面向全球AI领域专业人士与开发者的开放资源平台。该平台将通过发布详尽的指南、提供高效的工具集,助力开发者们设计出更加稳健、可信赖的人工智能系统,从而推动整个行业在安全性与创新性上的双重飞跃。
CoSAI的核心使命聚焦于三大战略方向:首先,挖掘并推广AI安全领域的最佳实践案例,为行业树立安全标杆;其次,积极应对AI技术发展过程中的新兴挑战,确保技术进步的稳健与可持续性;最后,全方位保障AI应用的安全性,最大化地为社会与用户带来正面价值。
在具体执行层面,CoSAI的工作将覆盖AI系统从设计、构建、集成、部署到运维的全生命周期,确保每一个环节都达到最高安全标准。特别地,联盟将针对当前AI领域面临的诸多安全风险,如模型窃取、数据污染、提示注入、规模滥用及推理攻击等,制定并实施有效的防御策略,力求将这些潜在威胁降至最低,保护AI系统的稳定运行,并防范可能对社会经济造成的负面影响。
此次联盟的成立,不仅是AI安全领域的一次重要集结,更是全球科技巨头共同应对未来挑战、携手共创安全AI生态的坚定承诺。随着CoSAI的深入运作,我们有理由相信,一个更加安全、可靠、可持续发展的AI未来正加速向我们走来。