Anthropic 指控阿里巴巴對其 Claude 模型發動大規模「蒸餾攻擊」，利用大量虛假帳號非法提取 AI 能力以訓練自家模型。Anthropic 已致信美國議員，呼籲立法應對此類威脅，維護技術安全。
Anthropic 指控中國最大的科技公司之一利用其先進的 AI 模型。
Anthropic 政策主管莎拉・赫克（Sarah Heck）在 6 月 10 日致南卡羅來納州參議員提姆・史考特（Tim Scott）和麻薩諸塞州參議員伊莉莎白・華倫（Elizabeth Warren）的信中表示，阿里巴巴最近對其進行了迄今為止「已知規模最大的蒸餾攻擊」。
赫克在《Business Insider》取得的信函中寫道，阿里巴巴旗下的營運者試圖「非法提取 Claude 的能力」來訓練阿里巴巴自己的模型，並呼籲立法防止進一步的攻擊。
赫克指出，在 4 月 22 日至 6 月 5 日期間，營運者透過「近 25,000 個虛假帳號與 Claude 進行了 28.8 百萬次交流」。
蒸餾攻擊是指利用先進的 AI 模型來訓練並提升較不先進模型的能力。阿里巴巴這家中國電子商務巨頭，在阿里巴巴雲端架構下開發 AI 模型，包括其通義千問（Qwen）大語言模型。
赫克在給參議員的信中寫道：「這些蒸餾攻擊是以非法、系統化且工業化的規模進行的，旨在收割美國頂尖實驗室的 AI 能力，並將其重新包裝成自己的產品，而無需承擔訓練美國頂尖模型所需的訓練與研發成本。」
她補充說，這些攻擊可能幫助中國模型更快達到 Claude Mythos Preview 級別的能力。Mythos 是 Anthropic 最先進的大語言模型之一，能夠偵測軟體漏洞，並在網路安全任務上表現優於人類。
她要求參議員針對蒸餾攻擊制定更多法律，例如限制中國獲取美國先進運算基礎設施的管道，並懲罰發動攻擊的中國實體。
Anthropic 向立法者致函的幾週前，美國政府剛對其最新的 Fable 5 模型實施了出口管制，理由是國家安全風險，禁止外國人士存取該模型。
這是對阿里巴巴的最新打擊。阿里巴巴最近也被列入五角大廈的黑名單，即國防部認為與中國軍方有關聯的企業名單。週二，阿里巴巴針對這項認定起訴了美國政府。
截至週四截稿時間，阿里巴巴的股價已下跌超過 4%。
阿里巴巴的代表未回應《Business Insider》的採訪請求。
◎本文經 《Business Insider》 US 授權刊登，原文發表於此，作者為 Aditi Bharade。
本文初稿由《Business Insider》TW 使用 AI 協助翻譯，並經人工審校確認。
此内容由惯性聚合(RSS阅读器)自动聚合整理，仅供阅读参考。 原文来自 — 版权归原作者所有。