現在AIフューチャーズ・プロジェクト（AI Futures Project）を率いる元オープンAI研究者のダニエル・ココタイロ（Daniel Kokotajlo）は、AI業界が企業が完全に理解、制御ができていないシステムの構築を急いでいる、と指摘する

ココタイロは2025年5月、Business Insiderのリーム・マクール（Reem Makhoul）とバーバラ・コルベリーニ・デュアルテ（Barbara Corbellini Duarte）の取材に応じ、AI企業が直面する核心的な問題はアライメントであると説明した。ここでいうアライメントとは、将来のAIシステムが多くの分野で人間を超える能力を持つようになった後も、人間の指示や価値観に確実に従わせるための取り組みのことである。

研究者たちは、高度なAIモデルが内部でどのように意思決定を行っているかを完全には理解していない、と彼は言う。その不確実性が、将来のAIシステムのアライメントを確実にし、人間が望む目標を確実に実行させることを難しくしているという。