OpenAI在社交平台上发布声明,宣布将对其ChatGPT和API生成的图片嵌入C2PA元数据

2月7日凌晨,OpenAI在社交平台宣布,为防范滥用,已对通过ChatGPT和API生成的图片嵌入C2PA元数据。C2PA是一种开放数据标准,旨在帮助出版商、企业和开发者通过元数据追踪和验证数字内容的来源、真实性和完整性。OpenAI在社交平台上发布声明,宣布将对其ChatGPT和API生成的图片嵌入C2PA元数据

此前,网络上出现由AI生成的泰勒斯威夫特等名人的不当图片,引发广泛关注。OpenAI此举旨在降低滥用风险,并提高公众对AI生成图片的辨识度。目前,仅图片受此措施影响,ChatGPT或API生成的文本、音频内容不受影响。此外,OpenAI还计划将此功能推广至所有APP用户。

同时,OpenAI还推出一个网站用于验证AI生成图片的真伪,用户可将JPG、Mp3、Mp4、PDF等格式的内容拖入该网站进行快速识别。然而,有用户反映使用体验不佳,部分由DALL·E3生成的图片在该网站上无法识别。这可能与训练数据量不足有关。

在嵌入C2PA元数据后,生成的图片将展示详细的元数据,包括生成系统、发布时间、描述和签发人等。此外,OpenAI还提供了C2PA元数据对图像大小的影响数据。虽然图像大小有所增加,但在质量、推理和交互延迟方面的影响较小。

C2PA是由Adobe微软、索尼、英特尔、ARM等行业领导者共同发起的行业联盟,旨在打击网络虚假信息,提高数字内容可信度。C2PA元数据包括内容来源证明、编辑和处理历史记录等,以支持多种媒体类型并保护隐私和安全。然而,OpenAI指出,即使嵌入C2PA元数据,也无法从根本上解决识别图像真实来源的问题,因为这些元数据可能被删除。尽管如此,这仍能在一定程度上提高用户的AI安全意识,并发挥安全保护作用。

暂无评论

暂无评论...