Anthropic 剛把 Fable 5 推向市場，Amazon 執行長就向白宮示警模型防護可能被繞過，隔天白宮高層便要求公司下架模型；雙方說法如今分裂，白宮稱這是不得已的國安處置，Anthropic 則說政府只給 90 分鐘期限，卻沒有說清楚真正威脅。
白宮要求 Anthropic 執行長達里奧・阿莫迪阻止外國籍人士使用最新模型 Mythos 與 Fable。｜Photo Credit:Bloomberg／Getty Images
川普政府對 Anthropic 祭出大範圍出口管制前，白宮高層曾在 24 小時內急著說服 Anthropic 自願撤下新發布的 AI 模型，因為政府官員認為這款模型可能帶來安全風險。
兩名政府官員與白宮高層向《Business Insider》透露，這段過程包含 Anthropic 執行長達里奧・阿莫迪（Dario Amodei）與政府官員之間多通緊急電話，參與者包括美國財政部長史考特・貝森特（Scott Bessent）與白宮網路總監尚恩・凱恩克羅斯（Sean Cairncross）。
這些通話細節此前尚未曝光，也讓外界看到白宮面對快速推進、又可能具危險性的前沿 AI 模型時，正在一邊評估風險、一邊摸索管制方法。
出口管制讓 Anthropic 在 Fable 對外發布後短短幾天內被迫撤下模型；Anthropic 原本保證模型安全，但模型上線後不久，白宮高層開始懷疑防護機制是否真如公司所說可靠。
6 月 11 日，也就是 Fable 公開發布後兩天，Amazon 執行長安迪・賈西（Andy Jassy）向白宮表達憂慮，認為模型防護可能被繞過；熟悉 Amazon 討論的人士說，Amazon 是在回應政府徵詢意見時提出看法。
到了 6 月 12 日上午，這個問題已經送到白宮最高層，貝森特、凱恩克羅斯、白宮幕僚長蘇西・威爾斯（Susie Wiles）與其他高層開會討論模型與政府回應，貝森特當時正前往休士頓參加既定公開活動，因此遠端加入會議。
會後，政府試圖聯絡阿莫迪，但政府官員與白宮高層說，他們被告知阿莫迪因參加健康靜修而無法接聽；Anthropic 發言人否認這項說法，稱其「絕對不實」。
接近 Anthropic 的人士說，政府約在中午首次要求與阿莫迪通話，他在 1 小時 15 分鐘內便與高層官員通上電話；阿莫迪無法立即接聽期間，Anthropic 也提出可由其他高層代為溝通。
白宮終於聯絡上阿莫迪後，他與約12位政府高層組成的不同組合進行三次通話，參與者包括凱恩克羅斯、貝森特與美國商務部長霍華德・盧特尼克（Howard Lutnick）。
其他白宮與政府官員也參與部分通話，包括商務部工業暨安全局次長傑佛瑞・凱斯勒（Jeffrey Kessler）、白宮幕僚秘書威爾・夏夫（Will Scharf）、白宮副幕僚長理查・華特斯（Richard Walters），以及總統政策助理沃克・巴瑞特（Walker Barrett）。
通話中，阿莫迪試圖釐清他認為可能是誤會的問題，反駁政府疑慮並捍衛防護機制；他主張，已發生的繞過方式屬於特定情境，風險不同於可大範圍繞過 Anthropic 防護、釋放多種網路能力的通用越獄（jailbreak）。
Anthropic 後來在部落格文章中說，尚未有測試者找到可廣泛繞過模型防護的通用越獄，也說不論是 Anthropic 或其他公司，目前都無法完全避免任何越獄手法；公司並為自家系統辯護，稱防護已強到許多使用者抱怨過於寬泛。
凱恩克羅斯與貝森特沒有被阿莫迪說服，白宮官員說，Amazon 的發現已提交美國國家安全局確認，政府方面認為自己握有證據。
政府要求 Anthropic 自願撤下模型，並與政府合作修補漏洞；阿莫迪要求更多時間與資料，卻沒有承諾撤下模型，貝森特曾在通話中直接告訴阿莫迪，他正在做出「錯誤決定」。
通話結束後不久，川普政府依國安權力對 Fable 5 與 Mythos 5 實施出口管制，禁止外國籍人士使用；Anthropic 說，為了合規，這道命令的實際效果是讓公司必須「突然停用」所有客戶的相關模型。
白宮高層說，政府花了好幾個小時請 Anthropic 合作，出口管制是最後手段；這名官員也說，政府原本不想這麼做，但已經沒有其他選擇。
報導刊出後，接近 Anthropic 的人士提出不同版本，宣稱白宮沒有給公司自願合作的空間，只丟出 90 分鐘下架期限，且沒有說明實際威脅細節。
白宮方面則認為矛盾的是，阿莫迪曾把 Anthropic 技術風險比作核彈，也長期主張 AI 需要管制，面對政府認定的安全漏洞時，卻不願先暫停模型存取。
3 名熟悉政府想法的人士說，提出疑慮的不只 Amazon；其中有人說，若 Anthropic 沒有把問題視為單一事件，改為修補漏洞或暫停存取，出口管制本來不會發生。
接近 Anthropic 的另一方人士反駁，Fable 5 的安全系統並未失效，公司發布前也曾與政府合作，而政府在多次對話中都沒有反對 Fable 上線。
Anthropic 在出口管制生效後的部落格文章中說，公司會遵守政府指令，但認為處置過當；Anthropic 主張，政府可以透過透明、公平、明確且建立在技術事實上的法定流程阻止不安全部署，但這道命令沒有符合那些原則。
白宮官員則把這件事放在創新與國安的拉扯中說明，稱創新仍是白宮的第一目標，但安全也必須被優先處理。
Amazon 沒有公開與政府討論的內容，只在回應中說，政府向公司徵詢潛在安全風險看法並不罕見，這類討論細節不會對外分享。
Anthropic 4 月初公佈 Mythos 時，便說這款強大模型只會提供給少數科技與資安公司，讓它們測試自身軟體漏洞；公司當時的理由是，模型若落入不當使用者手中，可能造成嚴重破壞。
Mythos 亮相後，阿莫迪與白宮高層多次會面，雙方都形容溝通具建設性；這些討論後來延伸到先進模型管制，也促成行政命令，要求公司在大範圍部署前自願把先進模型交給政府檢視。
Fable 5 則在 6 月 9 日公開推出，被 Anthropic 稱為加入防護、可供一般使用的 Mythos 級模型；這款模型也接受過美國政府與英國 AI 安全研究所審查。
問題在於，等所謂安全缺陷曝光後，多名政府官員改變判斷，認為模型必須先撤下。
6 月 13 日上午，前白宮 AI 主管、反對管制立場鮮明的大衛・薩克斯（David Sacks）在 X 上贊成對 Anthropic 祭出出口管制；他說，自己不認為越獄手法很簡單或不嚴重，也不認為政府想藉此更廣泛控制 AI 產業。
薩克斯寫道，政府希望 Anthropic 修補安全問題後，出口管制可以解除，Fable 也能回到一般發布狀態；他也說，政府希望這些事盡快解決，並對 Anthropic 不願配合自己過去稱為最高優先事項的安全要求感到困惑。
薩克斯與其他政府官員過去曾批評 Anthropic，指控公司因倡議更強產業管制、警告大量工作可能受影響，而帶有左派政治偏見並製造恐懼。
今年稍早，美國國防部長彼得・赫格塞斯（Pete Hegseth）與五角大廈也把雙方分歧推向更高層級，3 月 3 日因 Anthropic 拒絕讓 AI 工具用於大範圍國內監控與自主武器，將公司列為供應鏈風險。
不過薩克斯 6 月 13 日說，政府與 Anthropic 過去的衝突，和本次出口管制決定是分開的；他寫道，政府重視 Anthropic 的技術能力，也認為問題雖然嚴重，應能輕易解決，後續要看 Anthropic 如何處理。
◎本文經 《Business Insider》 US 授權刊登，原文發表於此，作者為 Sophia Cai and Cheyenne Haslett。
本文初稿由《Business Insider》TW 使用 AI 協助翻譯，並經人工審校確認。
責任編輯：羅弘旭 / 核稿編輯：林筠騏
此内容由惯性聚合(RSS阅读器)自动聚合整理，仅供阅读参考。 原文来自 — 版权归原作者所有。