- CAREER INSIDER
- 組織・人材
- AIの先駆者は今、「信頼性」と「安全性」の構築に取り組んでいる
- イリヤ・ポロスキンは、現代の生成AIの基礎となった「トランスフォーマー」アーキテクチャを提案した画期的な論文「注意（アテンション）こそがすべて」の共同執筆者だ。
- ポロスキンは10以上のAIエージェントを使っており、それらに「億万長者の首席補佐官のように振る舞う」役割を与えているという。
- ポロスキンは、AIエージェントの活動を安全に保つための基盤づくりを進めている。
イリヤ・ポロスキン（Illia Polosukhin）は、10以上のAIエージェントにそれぞれ異なる「ミッション」を与えている日もあるという。
そのミッションの一つは、「より優れたCEOになる」というものだ。
「つまり、会議のメモやGoogle Driveの資料、Slackのやり取りをすべてまとめて整理し、何が起きたのか、自分が見落としていることは何か、どこで意思決定が止まっているのかを、AIエージェントが意思決定に使える形にして分かりやすく示してくれる」とポロスキンはBusiness Insiderに語っている。
ポロスキンは、こうしたエージェントを「億万長者の首席補佐官レベルのサポート」と呼んでいる。実際にこれらのエージェントには、プロンプトに、「あなたは億万長者の首席補佐官である」と書いて役割を設定しているという。
これは、ポロスキンが思い描く、個々の労働者やCEOにとどまらず、世界経済全体の未来を先取りした例だ。すなわち、AIエージェントが人や大企業の代わりに取引を行い、サプライチェーンを調整し、さまざまな取引を仲介する世界だ。そして彼によると、社会はこうした変化にまったく準備できていないという。
「大きな問題は、汎用人工知能（AGI）が利用可能になるシステムが根本的に整えられていないことだと思う」とポロスキンは語っている。ここでいう「システム」とは、社会やインターネット、政府機関などを指している。
ポロスキンは、生成AIを支える重要な人物の一人だ。2017年には、画期的な研究論文「注意（アテンション）こそがすべて（Attention Is All You Need）」を共同執筆し、現代の生成AIの基礎となった「トランスフォーマー（Transformer）」を提案している。この「トランスフォーマー」を提案したその論文こそが、ChatGPTの名称の末尾に「T」が付いている理由だ。
ブラックボックスの中を解き明かす
AIの進化の流れについて、この研究者出身の創業者を驚かせるものはほとんどないという。
トランスフォーマーの論文が発表された2017年、ポロスキンは、将来的に機械がソフトウェアを生成するようになるという考え方のもと、「NEAR AI」を立ち上げた。「NEAR AI」の構想の中心には、人間が英語のような日常的な言葉でコンピューターに指示を出し、それを受けて機械がコードを書くようになるというものがあった。
「2017年当時、それはかなり馬鹿げたものに聞こえた」とポロスキンは語っている。だが現在では、これは「バイブコーディング」と呼ばれるものとなっている。ポロスキンは、現在のAIモデルの能力についても驚いていない。
アンソロピック（Anthropic）は2026年4月8日、まだ正式公開前の最新の試験版AIモデル「Mythos（ミトス）」について、システムの欠陥を見つけるだけでなく、それを悪用できてしまうほど性能が高いため、利用できる人を制限すると発表した。
ポロスキンは、「AIモデルはいずれ、あらゆる仕組みを次々と突破していくようになる」と長年警告してきたと語っている。そしてこの状況については、「いたちごっこ」だとBusiness Insiderに説明している。つまり、あるモデルで作った対策も、次のモデルがそれを破ってしまい、また新たな対策が必要になる関係にあるという意味である。
人々の健康管理や企業の物流運営をAIエージェントが担うようになる世界では、そうしたリスクを防ぐために、裏側で全体を支える「信頼性」と「安全性」の仕組みが必要になるとポロスキンは説明する。
ポロスキンは今NEARで、AIエージェントが作業のあらゆる段階を、特定の企業だけに頼らずに分散的に動かすことを目指した仕組み・取り組みを進めている。
具体的には、ログイン情報の管理や旅行の予約、航空券の支払いまでを担うAIエージェントであっても、それらの情報や資金を1つの会社に丸ごと預ける必要がなくなるというものだ。
「データを扱うAIモデルには、あらゆる情報が集中する。文字どおり、あなたの人生そのものがそこに入っていく。だからこそ、特定の1社だけがそれを支配したり、自由に扱えたりする状況にはしたくない」
