在数字时代，儿童性剥削已成为最迫切的挑战之一。AI 的迅速发展正深刻改变着此类侵害在行业内的显现方式，同时也为大规模应对这些问题提供了新途径。
OpenAI 始终致力于构建并不断强化安全屏障，以防止系统遭到滥用。我们与美国国家失踪与受剥削儿童服务中心 (NCMEC) 以及执法部门保持紧密合作，不断提升检测与举报效率。在此过程中，我们意识到建立更强有力的全行业统一标准已刻不容缓。
今天，我们正式推出一份政策蓝图，旨在为 AI 时代的美国儿童保护框架提供一条切实可行的发展路径。这份蓝图汇集并采纳了儿童安全领域多家权威机构与专家的建议，其中包括 NCMEC、总检察长联盟及其 AI 工作组共同主席 — 北卡罗来纳州总检察长 Jeff Jackson 和犹他州总检察长 Derek Brown，以及反人口贩卖组织 Thorn。各方的深度参与确保了该方案能够精准契合核心诉求，并推动更高效的跨界协作，从源头预防儿童受害。
该蓝图聚焦于三大核心任务：完善法律法规，以应对 AI 生成及篡改的儿童性虐待材料 (CSAM) 带来的新挑战；优化举报协作，提升服务商的举报质量与协同效率，为案件调查提供有力支撑；践行“源头安全”(Safety-by-design)，直接在 AI 系统中植入安全机制，实现对违规行为的精准拦截与检测。
面对这一复杂挑战，单一的干预手段并不足够。该框架整合了法律、运营与技术三重路径，旨在更敏锐地识别风险、缩短响应时间并强化问责机制，确保执法权威在技术更迭中始终保持强劲威慑。
通过这些举措，全行业将能够更早、更有效地介入儿童安全保护。该框架致力于通过提前阻断剥削企图、提升向执法部门提供的预警信号质量，以及强化生态系统的问责机制，力求实现“防患于未然”，并在风险露头时为儿童提供更及时的保护。
“作为总检察长联盟 AI 工作组的共同主席，我们非常欢迎这份蓝图的发布。它在技术行业的儿童安全实践与执法部门每日面临的严峻现实之间，搭建起一座极具意义的桥梁。令我们尤为欣慰的是，该框架明确了生成式 AI 的安全防范需要‘多维防御’ — 即不再单一依赖某种技术手段，而是将自动检测、拒绝机制、人工监督，以及针对新型滥用手段的持续迭代深度结合。这与我们在实践中看到的情况一致：威胁在不断变异，静态的防御手段根本无力应对。在产业链上游构建起完善的预防机制，是整个行业在儿童安全领域投入产出比最高的举措。
当然，任何自愿性框架的成效，最终都取决于其承诺的细化程度，以及企业是否真正愿意接受外界的审视与问责。我们期待与 OpenAI、NCMEC 以及各州总检察长继续深化合作，确保这些建议能转化为保护儿童的持久屏障。”
—Jeff Jackson（北卡罗来纳州总检察长）与 Derek Brown（犹他州总检察长），总检察长联盟 AI 工作组共同主席
“总检察长联盟通过汇聚政府执法部门、行业领袖、非营利组织及全球合作伙伴，共同推动 AI 与数字安全领域的务实方案，始终走在未成年人网络保护的前沿。通过协作与创新，总检察长联盟正在为如何在拥抱新兴技术的同时守护青少年安全树立标杆。我们高度赞赏 OpenAI 在安全领域的一贯投入，以及在制定这一极具价值的儿童安全蓝图过程中与总检察长联盟及各州总检察长的深度沟通。”
—Karen White，总检察长联盟 (AGA) 执行董事
“生成式 AI 正在以一种令人深感不安的方式加剧网络儿童性剥削犯罪 — 它不仅降低了作恶门槛、扩大了侵害规模，甚至衍生出了全新的伤害形式。与此同时，美国国家失踪与受剥削儿童服务中心 (NCMEC) 也欣喜地看到，像 OpenAI 这样的公司正在反思如何更负责任地设计产品，从源头嵌入安全防护。 面对这一挑战，没有任何一个组织、企业或部门可以孤军奋战。我们将继续坚定地与行业、政府及儿童保护界同仁并肩作战，共同推动能够减少伤害并切实保障儿童安全的解决方案。”
— Michelle DeLaune，美国国家失踪与受剥削儿童服务中心 (NCMEC) 总裁兼首席执行官
此内容由惯性聚合(RSS阅读器)自动聚合整理，仅供阅读参考。 原文来自 — 版权归原作者所有。