アメリカのAI新興企業「アンソロピック」は12日、アメリカ政府からの命令を受けて、ソフトウェアの脆弱性の発見能力が著しく高い「Claude Mythos（クロード・ミュトス）」などの 最先端AIの提供を停止したと発表した。

「ミュトス・フェイブル」で一般にも販売

アメリカ政府の命令は、国家安全保障上の権限を理由にするもので、「Claude Mythos （クロード・ミュトス）5」と、一般向けの「Claude Fable（クロード・フェイブル） 5」への外国人からのアクセスを止めるよう求めるものだという。

ミュトスは、4月初旬の段階で、「Mythos Preview（ミュトス・プレビュー）」というモデルが、約50の初期パートナーがアクセスできる状態でスタートした。その後、15か国以上の約150の新規組織に利用権が拡大されたが、システムの脆弱性をつき不正な操作や侵入を行うプログラムを自動生成する能力を持つことから、安全上のリスクから一般への公開は見送られてきた。

この記事の画像（4枚）

その後、アンソロピックは、6月9日に新たな方針を発表し、ミュトスの最新モデルについて、安全対策を強化したうえで、一般向けに発売するとした。これが「Claude Fable（クロード・フェイブル）5」で、「Fable」はラテン語の「fabula」（語られるもの）に由来して「寓話」を意味し、ギリシャ語由来で「神話」を意味する「mythos」とは類義の関係にある。

「フェイブル5」は、ソフトウェアの開発や科学研究など多くの分野で性能を高め、より複雑な問題の処理で優位性を発揮する一方で、サイバー攻撃や生物・化学兵器関連などを念頭に高リスク分野での質問があった場合は、性能が劣るモデルが代わって回答する設計にしたとして、セーフガード機能の強化がうたわれた。「フェイブル5」の発売にあたり、アンソロピッ‌クは、⁠利用者が制限された行為を実行したりガイドラインを回避したりすることがないよう、徹底的なテストを行ったとしている。

一方、アンソロピックは、「ミュトス・プレビュー」のアップグレード版として、安全対策の一部を解除した限定モデル「ミュトス5」の提供も開始した。「フェイブル5」と「ミュトス5」は、AIとしての基本モデル自体は同じだが、システムに組み込まれたセーフガードの有無が決定的に異なる。一般向けの「フェイブル5」では、危険な利用を検知すると自動的に下位モデルが応答する仕組みだが、利用組織を限定した「ミュトス5」では、安全制限が取り払われ、下位モデルへの自動切り替えを起こさずに能力をすべて稼働させることが可能になっている。

アメリカ政府の指示は「誤解」

アンソロピックは12日、アメリカ政府の法的指示に従い、すべてのユーザーからの「フェイブル5」と「ミュトス5」へのアクセスを停止すると発表したが、「フェイブル」のリリース前に、アメリカ政府やイギリスの研究機関のほか、複数の民間第三者機関や社内チームと協力し、数千時間にわたって安全対策を強化してきたと説明し、政府の指示は「誤解」に基づくものだと反論している。

アメリカ政府が認識したとされる、安全対策を潜り抜ける「抜け穴」は軽微なもので、モデルの安全対策を広範囲に迂回するケースは起きていないと説明、狭い抜け穴の潜在的な可能性が認められただけで、商用モデルをリコールすべきだという考えには同意できないとし、「この基準が業界全体に適用されれば、フロンティアモデルを提供するすべてのプロバイダーにおいて、実質的に新規モデルの展開が停止することになる」と強調した。24時間以内に検証結果の詳細を明らかにし、早期に2つのモデルの再開を目指すという。

こうしたなか、ウォールストリート・ジャーナルは13日、関係者の話として、アメリカ政府の指示はIT大手アマゾンからの指摘がきっかけだったと報じた。アマゾンの研究者が、本来は制限されるはずのサイバー攻撃に悪用されかねない情報を「フェイブル5」から引き出し、この結果を受けアマゾン側は、ベッセント財務長官らに懸念を伝えたという。

政府高官のデービッド・サックス氏は13日、「アンソロピックとアメリカ政府の両方から非常に信頼されているパートナーがフェイブルのテストを行ったところ、ガードレールを破る方法が明らかになった。政府は抜け穴を修正するか、モデルを撤回するよう求めたが、（アンソロピックCEOの）ダリオ・アモディ氏は応じなかった」と、Xに投稿した。アマゾンはアンソロピックの主要株主だが、4月に最大250億ドルを追加出資すると発表し、提携関係の強化を打ち出している。

「輸出管理」でのAIモデル停止

日本国内でもミュトス活用企業が広がりを見せ始めていた矢先の出来事となった。ミュトスへのアクセス権をめぐっては、一部の金融機関が付与対象になったことが明らかになったほか、日立製作所なども取得契約の締結を発表していた。片山財務大臣は、「現時点で、日米財務省間で了解している状況に、変化はありません」とXに投稿したが、政府関係者は、情報収集を急ぐ必要性を示している。

アメリカ政府とアンソロピックは、AIの軍事利用をめぐって火種を抱え、2月には、トランプ大統領が連邦政府機関にアンソロピックの技術を利用しないよう指示するなど、対立する場面が見られてきた。

今回、安全保障上の認識のずれが表面化した結果、トランプ政権は、輸出管理制度に基づいてAIの基盤技術であるモデルの提供停止を命じるという異例の形をとって、介入を強めた格好となった。ミュトスの利用停止が続けば、サイバー攻撃に対する脆弱性が世界的に強まるおそれが指摘されるなか、各国の政府機関や重要インフラ事業者のセキュリティ戦略にも影響が及びかねない事態になっている。
（フジテレビ解説副委員長　智田裕一）

金融、予算、税制…さまざまな経済事象や政策について、できるだけコンパクトに
わかりやすく伝えられればと思っています。
暮らしにかかわる「お金」の動きや制度について、FPの視点を生かした「読み解き」が
できればと考えています。
フジテレビ解説副委員長。1966年千葉県生まれ。東京大学文学部卒業。同大学新聞研究所教育部修了
フジテレビ入社後、アナウンス室、NY支局勤務、経済部にて兜・日銀キャップ、財務省・内閣府担当、財務金融キャップ、経済部長を経て、現職。
CFP(サーティファイド　ファイナンシャル　プランナー)、1級ファイナンシャル・プランニング技能士、農水省政策評価第三者委員会委員