惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

J
Java Code Geeks
月光博客
月光博客
D
DataBreaches.Net
云风的 BLOG
云风的 BLOG
F
Fortinet All Blogs
T
The Blog of Author Tim Ferriss
Stack Overflow Blog
Stack Overflow Blog
Blog — PlanetScale
Blog — PlanetScale
aimingoo的专栏
aimingoo的专栏
U
Unit 42
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
MyScale Blog
MyScale Blog
T
Tailwind CSS Blog
N
Netflix TechBlog - Medium
B
Blog
博客园_首页
G
Google Developers Blog
Recent Announcements
Recent Announcements
博客园 - 【当耐特】
P
Proofpoint News Feed
博客园 - 司徒正美
Hugging Face - Blog
Hugging Face - Blog
MongoDB | Blog
MongoDB | Blog
Last Week in AI
Last Week in AI

Hacker News - Newest: "AI"

AI can't read an investor deck AI as an attorney? Student uses ChatGPT, Gemini to sue UW over alleged racial discrimination Hacking MCP Servers in AI Systems – The Rug Pull: Tool Changes After Approval GitHub - MeepCastana/KubeezCut: Free Web based video editor Can AI judge journalism? A Thiel-backed startup says yes, even if it risks chilling whistleblowers Coming soon: 10 Things That Matter in AI Right Now DARPA built an AI to fact-check enemy weapons claims What explains heterogeneity in AI adoption? When AI Meets Muscle: Context-Aware Electrical Stimulation Promises a New Way to Guide Human Movements - Department of Computer Science AI Changed How We Build. It Did Not Change What Matters. Linux rules on using AI-generated code - Copilot is OK, but humans must take 'full responsibility for the… Meta spins up AI version of Mark Zuckerberg to engage with employees Code Mode: Let Your AI Write Programs, Not Just Call Tools | TanStack Blog GitHub - Delavalom/graft: Go framework for building AI agents. Type-safe tools, multi-provider (OpenAI, Anthropic, Gemini, Bedrock), zero vendor SDKs. India's TCS tops estimates, says new AI models did not dent services demand Gen Z's fading AI hype Strong feeling: we are in a folded AI reality GitHub - machinarii/total-recall-catalog: A reference catalog of latest knowledge retrieval, memory & RAG systems GitHub - mensfeld/code-on-incus: Give each AI agent its own isolated machine with root, Docker, and systemd. Active defense detects and stops threats automatically.. Quantization, LoRA, and the 8% Problem: Benchmarking Local LLMs for Production AI Iran war: We spoke to the man making Lego-style AI videos that experts say are powerful propaganda Powell, Bessent discussed Anthropic's Mythos AI cyber threat with major U.S. banks GitHub - immartian/bellamem: Persistent belief-graph memory for AI agents. Retrieves decisive context by importance — not recency, not RAG, not /compact. recursive-mode: The Repo-Native Operating System for AI Engineering After the attack on Sam Altman's home, will AI CEO's go on the offensive? The biggest advance in AI since the LLM Opus 4.6 vs GPT 5.4 One Prompt Unity World Generation Test “AI polls” are fake polls Client Challenge Can AI be a 'child of God'? Inside Anthropic's meeting with Christian leaders
推进内容溯源,构建更安全、更透明的 AI 生态
2026-05-19 · via Hacker News - Newest: "AI"

2026 年 7 月 31 日更新: 我们正将此项工作拓展至图像领域之外。现在,使用 OpenAI 工具(包括通过 ChatGPT 和 OpenAI API)生成的受支持音频,均已加入 SynthID 水印。我们的公开验证工具现在除了支持图像外,还允许对受支持的音频文件进行验证。此外,我们推出了用于验证的 API 访问权限,以便开发者和组织能够将内容溯源 (provenance check) 整合到各自的工作流中。总体而言,这些更新建立在下文详述的多层架构策略之上:通过结合 C2PA 等开放标准、SynthID 等持久的水印信号以及验证工具,让内容溯源在更多类型的 OpenAI 生成内容中变得易于检测和应用。

如今,人们每天都在使用 OpenAI 的工具来创作和编辑图像与音频,让日常沟通变得更具表现力、更实用、更触手可及。随着这些工具融入人们构建、想象和分享的方方面面,使用户能够理解并验证媒介的来源变得至关重要,这能让他们在解读信息时更有信心。内容溯源特征可以通过提供上下文,帮助人们了解内容的来源、创建或编辑的方式,以及它是否可信。

今天,我们正在通过一种多层级、生态驱动的模型来强化我们的内容溯源方案,以构建网络信任。我们正在通过遵循 C2PA 标准,让其他工具和平台更容易识别我们的溯源特征;通过与 Google 合作,为图像添加更具韧性、跨平台的 SynthID 数字水印;并向公众分享一款工具的预览版,供大家验证图片是否出自 OpenAI。

这些更新建立在我们此前工作的基础上:支持开放标准、让 OpenAI 生成的内容更容易被识别,并开展跨行业合作,以支持一个更具公信力的信息生态系统。

通过 C2PA 合规构建可信生态系统

自 2024 年起,OpenAI 就已深入参与溯源标准的制定与普及。彼时,我们开始为 DALL·E 3(在新窗口中打开) 生成的图像添加内容凭证 (Content Credential),随后又将其扩展至 ImageGen(在新窗口中打开)Sora(在新窗口中打开)。同时,我们也加入了内容溯源和真实性联盟 (C2PA) 的指导委员会,该联盟是一个推动内容溯源开放技术标准落地的跨行业组织。C2PA 的技术方案利用元数据和加密签名,确保关于某项媒介的信息能够安全地随内容本身一同传输。这些信息包含丰富的上下文,能够协助新闻工作者评估素材来源、帮助平台方做出合规决策,并让大众更清晰地理解他们在线上看到的内容。

多层级溯源方案:引入 Google SynthID 图像水印

C2PA 元数据是内容溯源的重要基石。它能帮助内容自带关于其来源、创建或编辑方式以及信息签名方的关键数据。然而,元数据并非万无一失。它可能会被移除,在上传和下载过程中丢失,或者因文件格式转换、尺寸调整及截图等操作而遭到破坏。

我们在这一领域已深耕许久。此前,我们已在 Sora 中使用可见水印,在 Voice Engine 中应用音频水印,并在部署过程中持续对准确性和可靠性进行测试与研究。

这两套系统相辅相成、互为表里。C2PA 有助于内容携带详尽的上下文信息;而当元数据未能留存时,SynthID 则能确保溯源特征依然存在。数字水印在经历截图等图像转换时往往更具耐受性,而元数据则能比单纯的水印提供更丰富的信息流。二者结合,使内容溯源方案比任何单一层级都更加坚韧。

特征检测与公众验证工具预览

即使有了值得信赖的元数据和能抵御绝大多数修改的数字水印,内容溯源特征的耐受性大幅提升,人们依然需要一种手段来检测这些特征。为此,我们现在推出一款公共验证工具的预览版。该工具通过检查上传的图片中是否包含内容凭证及 SynthID 等内容溯源特征,来帮助人们验证该图片是否由 ChatGPT、OpenAI API 或 Codex 生成。

我们认为,内容溯源应当变得更易于大众验证和解读。通过整合多源特征,我们的工具能够协助每个人解答“改内容是否由 AI 生成?”这一问题。该工具承袭了我们在 2024 年首次推出图像检测分类器研究预览版时所积累的经验,使用户不仅能够可靠地检测媒介中是否存在源自 OpenAI 的 SynthID 水印,还能在发现 C2PA 元数据时将其清晰地呈现出来。

OpenAI 网页展示了一张上传图片的验证结果,通过检测到的 SynthID 和内容凭证特征,确证该图片是由 OpenAI 工具生成的。

没有任何一种检测方法是万无一失的,因此在检测不到特征时,我们采取了审慎的态度。例如,如果系统未检测到任何元数据或水印,该工具不会对图片是否由 OpenAI 工具生成做出定性结论,因为内容溯源特征在某些情况下确实存在被清除的可能。

在发布初期,该工具的检测范围仅限于 OpenAI 生成的内容。在接下来的几个月中,我们的目标是支持跨行业的共同努力,以实现跨平台的内容验证。随着时间的推移,我们还期望支持更多人们在网络上可能接触到的内容类型。

展望未来

没有任何单一的内容溯源技术能够孤军奋战。我们坚信,最强有力的方案应当将通用标准、高韧性的水印特征以及公众验证机制有机结合。通过深化我们对内容凭证的长期支持、达成 C2PA 标准合规、引入 SynthID 以及推出公众验证工具预览版,我们希望能为构建一个更具互操作性的内容溯源生态系统贡献力量。