Gemini 应用现在可以告诉你照片是否为 AI 生成

谷歌 长期以来希望提供用户有用的背景信息，随着生成式媒体越来越普及、越来越真实，谷歌 正在部署工具，更新 Gemini 应用程序，以侦测图片是否由 AI 生成或编辑。 不过，这里的条件是这项新功能目前只适用于使用 谷歌 AI 生成或编辑的图片。

Gemini 应用现在可以告诉你照片是否为 AI 生成

Gemini AI 图像传感器背后的推手是 谷歌 于 2023 年推出的数字水印技术 SynthID。 SynthID 将难以察觉的消息嵌入 AI 生成的内容中，这些消息在修改后依然保持完整。 谷歌 通过其 SynthID Detector 验证门户网站测试这项技术，该门户网站于今年稍早向有兴趣的媒体工作者、研究人员及媒体专业人士开放。 它能在不同模式中识别 AI 生成的内容，并标示最有可能被加注 SynthID 水印的部分。

谷歌 也在魔术编辑（Magic Editor）中的 Reimagine 生成式 AI 工具中加入支持 SynthID。 不过，你可以通过在 Gemini 应用程序中提问「这是用 谷歌 AI 制作的吗？」或「这是 AI 生成的吗？」，快速确认你在 Gemini 应用程序上传的图片是否是用 谷歌 AI 生成。 聊天机器人会验证你上传图片中的 SynthID 水印，并利用其推理能力提供响应，为图片增添更多上下文。 未来，谷歌 将利用其 SynthID 验证工具支持更多内容类型，包括音频和视频，并将此功能整合进 谷歌 搜索及其他平台。

这不只是 谷歌，AI 生成内容误导和欺骗用户的威胁日益增加，给其他科技公司敲响了警钟。 谷歌 是内容来源与真实性联盟（C2PA）指导委员会成员，该联盟还包括 Adobe、OpenAI、Meta、Microsoft 等。 虽然 SynthID 是 谷歌 的专有计划，但 C2PA 是一个开放标准，能将安全的原始数据附加到图片、音频或视频上。 Adobe 也基于 C2PA 凭证开发了自己的数字水印工具。

谷歌 表示，其新开发的 Nano Banana Pro 图像生成模型，将在 Gemini 应用程序、Vertex AI 及 谷歌 Ads 的生成内容中嵌入 C2PA 元资料。 谷歌 已在 YT、Search、Pixel 和 Photos 等产品中落实 C2PA 凭证。 谷歌 表示，未来 C2PA 内容证书加入验证工具，将让用户能够检查由存在于 谷歌 生态系统之外的模型和产品所创造内容的原始来源。