1. TECH INSIDER
2. テックニュース
3. フォックスコン・リサーチのCEOが語る「エンタープライズAI」の危機意識…本当のリスクはこの先にある【COMPUTEX】

PREMIUM翻訳β

PREMIUM翻訳β

鴻海研究所（Foxconn Research Institute）CEO兼情報セキュリティ研究所所長の李維斌（リー・ウェイビン）氏が、「企業AI、生成AIとサイバーセキュリティ」について講演した。スピーチは、自らのプレゼン資料作成の経験をアイスブレイクに始まった。

AIは確かに効率を高めるが、意図しない場所に内容を無理やり詰め込むこともあり、「いくら説明しても話が通じない」ため、結局その段落を丸ごと削除せざるを得なかったという。この冗談が講演全体の入り口となった。AIは便利であり、企業が門前払いにするのはもはや困難なほどだが、厄介なのは、AIが必ずしも人間の意図通りに動くとは限らない点にある。

企業はもはやAIを門前払いできない

リー氏は、企業が現在AIを無視することは不可能であると述べた。経営層はAIへの投資機会を逃すことを恐れ、従業員は自ら効率を高めるツールを探し、サプライヤーはほぼ例外なく製品やサービスにAIを組み込み始めている。

彼が指摘するのは、企業が対処すべき真の問題は「AIが入ってくるかどうか」ではなく、「AIがどこから入り、どのデータにアクセスし、どのようなアクションを実行できるのか」、そして「企業にそれらのユースケースを管理する能力があるか」という点である。

リー氏によると、AIは開発初期からセキュリティをデフォルトの条件としていなかった。企業がAIの能力、効率、正確性だけに注目すると、新たな攻撃面（アタックサーフェス）を見落としやすくなる。彼は、企業がAIに向き合う態度は「避けられないのであれば、立ち向かわなければならない」であるべきだと語った。

問題は「シャドーIT」から「シャドーAI」の先に進む

リー氏は企業のテクノロジー導入史を用いてリスクの変化を説明した。

かつて従業員が私物のノートPCやスマートフォンを会社に持ち込み、BYODが形成された。その後、従業員が外部のクラウドサービスやSaaSを利用するようになり、シャドーIT（情シス部門の管理が及ばない業務IT利用）が生まれた。生成AIの時代になり、従業員はIT部門のトレーニングや承認を待たず、自らデータを外部のAIツールに投入して整理、検索、あるいはプログラミングをするようになっている。

かつてはIT部門が新ツールを推進し、従業員が「なぜ使うのか」と問い返していたが、現在は従業員がすでにAIを使い始め、逆にIT部門に開放を求めていると彼は指摘する。これが企業のサイバーセキュリティとITガバナンスに新たな圧力をかけている。

リー氏は、次の段階はシャドーAIだけでなく、シャドーAgentになると警告する。AIが質問に答えるだけでなく、人間に代わってタスクを実行するようになり、エージェントが企業内に浸透すると、権限設定、ライフサイクル管理、再学習、退場メカニズム、そして責任の所在が問題となる。