Google 上周五从 AI Studio 中移除了开源模型 Gemma，理由语焉不详。模型下架前，美国田纳西州共和党参议员 Marsha Blackburn 致函 Google CEO Sundar Pichai，称 Gemma 模型生成了针对她的性行为不检的虚假指控，她要求 Google 给出解释。她试图将此事与正在进行的针对 Google 等公司机器人诽谤保守派的听证会关联起来。在听证会上，Google 的 Markham Erickson 解释说，AI 幻觉是生成式 AI 广泛存在的已知问题，Google 正致力于缓解幻觉问题的影响。测试显示 Gemini for Home 特别容易生成幻觉。而在 Blackburn 的诱导性测试中 Gemma 编造了一个她与州警之间由吸毒催化的婚外情，甚至还提供了一个虚假的新闻链接。
https://arstechnica.com/google/2025/11/google-removes-gemma-models-from-ai-studio-after-gop-senators-complaint/
此内容由惯性聚合(RSS阅读器)自动聚合整理，仅供阅读参考。 原文来自 — 版权归原作者所有。