AIにKill Switchを与えました。ローカル優先ツールングにおける信頼について学んだことをここに共有します。

開発者なら誰でも経験する時がある。AIを利用して
コーディングツールを使っている時

。機密情報を貼り付ける。データベースのスキーマ。内部
API構造。3ヶ月かけてようやく理解したロジックの一部

。そしてあなたは思う：あの情報はどこに行ったんだろう？

その時が、私はRogue StudioにAir-Gapモードを構築した理由だ。
それを構築することは、以前に構築したものよりも開発者ツールの信頼の構造についてもっと学んだ
。

「ローカルAIサポート」の問題

今、主要なAIコーディングツールはすべてローカルモデルをサポートしていると主張しています

。技術的には、それはそうです。Ollamaを指し示すことができます
。ローカルでLlamaを実行できます。チェックボックスがあります。

しかし「ローカルモデルをサポートする」とは同じではない
「コードがローカルに留まることを保証します。」

実際に大多数のツールで起こっていることはこちらです：

ローカルモデル設定は設定ではなく、方針ではありません
モデルの選択に関わらず、テレメトリーコールはまだ出ています
エラーレポートはコンテキストを外部サーバーに送信します
ローカルモデルが遅いか利用できない場合、フォールバックロジックが静かにクラウドプロバイダに切り替わります
強制レイヤーはありません — UIスイッチだけがあり、それを信頼する必要があります

保証は得られません。設定を得るだけです

大多数の開発者にとっては問題ありません。セキュリティ研究者にとって、
プライベートシステムを扱っている人にとって、誰でも
規制産業における建設—全く問題ではない

本当の保証の見た目はどういうものか

コードに指さして言えるようなものが欲しかった
ここに保証が実装されている

UIではありません。設定ファイルでもありません。リクエストパイプラインで

これは/api/chat/route.tsに構築したものです

const EXTERNAL_PROVIDERS = [
  "openai", "anthropic", "gemini",
  "groq", "deepseek", "together", "openrouter"
];

const isAirGapped =
  req.headers.get("x-air-gap-mode") === "true";

if (isAirGapped && EXTERNAL_PROVIDERS.includes(provider)) {
  return NextResponse.json(
    {
      error: "AIR-GAP VIOLATION: External provider blocked.",
      provider,
      timestamp: new Date().toISOString()
    },
    { status: 403 }
  );
}

キルスイッチがオンの場合、これがいかなる
プロバイダの初期化の前に、いかなるAPIキーの検索の前に、
ストリーミングが開始される前にトリガーされます.

403は提案ではありません。それは壁です.

そしてサーバーサイドであるため、リクエストがどのように構築されたかに関わらず
トリガーされます — UIから、から
スクリプトがAPIを叩く際の直接のfetch()
ミドルウェアを通じてたどり着く経路はありません
Air-Gapがアクティブな場合、外部プロバイダーを使用します。

通過する唯一のものはollama、それが
独占インタビューをlocalhost:11434.

ゼロバイトが機器から出る。マーケティングの主張としてではない。
差分として読めるものです。

UIはアーキテクチャに合わせる必要があった

キルスイッチのUIに驚くほどの時間を費やしました。

技術保証は、ユーザーがしなければ意味がなかった
感じるそれの重さ。設定で小さなトグル。
メニューは建築的な表明を損なうでしょう
という機能を作成していた。

だから、物理的な見た目にした。大きくて、見逃しにくい。

オフの状態では：インターフェースにすべての利用可能なプロバイダーが表示される。
すべては正常だ。

オンの状態では：すべての外部プロバイダーがすぐにグレーアウトされる。
バナーが表示される—AIR-GAPPED: LOCAL ONLY。プロバイダー
セレクタがOllamaにロックされます。キルスイッチ自体が赤くなります。

ビジュアルデザインがここで実際の仕事をしている。それがコミュニケーションをしている。
それは好みではありません。モードの変更です。
本物の結果。

このは私に信頼を建築として何を教えてくれたか

この構築により、私は信頼を思考する必要に迫られました
一流の建築的関心—政策として書くのではなく、制約として構築するもの
です

ほとんどのソフトウェアの信頼モデルは以下に基づいています

設定（フラグを設定し、ソフトウェアがそれを尊重する）
監査（事実後にログを確認する）
政策（データ処理に関する法的合意）

これらのいずれも構造的ではありません はすべて侵害されることができます
— バグを通じて、設定ミスを通じて、
あなたが会ったことのない人々による意図的な決定を通じて.

構造的な信頼は異なります。それはシステムが
制約を
いかなる変更があっても侵害することが物理的に不可能であることを意味します。

エアギャップ・ミドルウェアは構造的です。それは問題ではありません
後からコードベースに追加されるもの — それがどうであれ
ミドルウェアが存在すれば、制約は成り立っています。あなたは
明日、新しいAI提供者を10社追加し、それらのうち一つも
Air-Gapがアクティブな場合にアクセス可能です。

このツール類にとってオープンソースが重要なのはここにあります
特に。保証はあなたが
それを確認する能力があります。Rogue Studioを使えば、読むことができます。
3分間でミドルウェアを理解し、正確に何を知る
それがブロックするし、ブロックしない。

コインの裏側：赤チーム

エアギャップモードは、あなたのコードを保護することに関することです
マシンを離れます。

赤チームの群れはあなたのコードを
間違っていることから守るために存在します

私は敵対的なエージェントのループを作成しました。ここでは、二つのAIエージェントが
互いに競い合います

青チームがコードを書きます
赤チームはすぐにそれを壊そうとします—XSS、SQLインジェクション、バッファーオーバーフロー、再入力を探す

脆弱性、SSRF、パス traversal。

赤チームが何かを見つけたら、エクスプロイトの詳細は
ブルーチームに戻ってパッチングをする。彼らはループアップする。
コードがクリーンになるまで3回のイテレーションが必要です。

この洞察は何に導かれたか：同じモデルが
脆弱性を書き出すことは統計的に起こりうる
レビューで見逃してしまう。盲点は両方にある。
指示。修正は別のエージェントで、
対立する目的 — 有用ではありませんが、それでも
破壊的なもの。

エアギャップモードと組み合わせると、何かが得られます
興味深い：あなたを積極的に監査するAI
脆弱性のためにコードを実行中です
マシン、暗号学的な保証により何も
残らない。

私が目指しているもの

Rogue Studioは、他に良い答えを見つけられなかった質問に答える試みです
：

アーキテクチャに信頼を置く代わりに政策に置くと、AIツールの形はどう見えるのか
。

エアギャップモードは一つの答えである。敵対的
スワームもまたある。リバースエンジニアリングモード — それが
デコンパイラのプロンプトでマルウェア分析の交換
安全拒絶がない場合、それは三番目です。

すべてはオープンソースです。すべては検証可能です。
すべてはローカルで実行されます。

AI開発ツールのことを待っていましたか
あなた自身のツールで実際にあなたを信頼するもの —
これが私が作ってきたものです。

→ github.com/malgatyuvraj/Rogue-Studio

リポジトリはMITライセンスです。良い最初の問題は
ラベル付けされています。PRは迅速にレビューされます。

これらのいずれかが共鳴する場合 — 特に
アーキテクチャを信頼として捉える枠組み — 私はとても喜びます
コメントであなたの考えを聞きます.

他にどのような制約は開発者ツールの構造的なものになるべきですか？
私はこれについて多く考えており、セキュリティ
とプライバシー分野の人々の意見に興味があります.

おすすめ購読元

DEV Community