AI世界モデルに人の信念や意図が欠けると行動予測を誤るとの研究結果

人の信念を追わないと、世界モデルは行動予測を誤ります

AIエージェントの基盤として注目される世界モデル（World Model）について、新しい研究が発表されました。
論文のタイトルは「Mental World Modeling」（MWM）です。
The Decoderの記事で、研究内容と実験結果が詳しく報じられています。

物理的な変化だけでは、人の行動は説明できません

世界モデルは、ある行動をとったときにシーンがどう変わるかを予測する仕組みです。
しかし、既存のSora、Genie 3、JEPA、Marbleなどは、物体の位置や動き、遮蔽といった物理層しか扱っていません。

論文は、カップの例を挙げています。
本人が見ていない間にカップが棚へ移された場合、物理的な世界モデルはその後の行動を正しく予測できません。
その人が「カップがどこにあると思っているか」を追跡して初めて、次の行動を説明できるようになります。

MWMは心的状態を世界モデルに追加します

MWMは、信念、注意、目標、意図、感情、社会的規範、人間関係といった心的変数を加える枠組みです。
行動は「物理的な運び手」と「心的な内容」に分けられます。
同じ「カップを滑らせる」仕草でも、謝罪になったり、だましになったり、気遣いになったりします。

研究者は、意識のシミュレーションを主張しているわけではないと明言しています。
心的状態は行動と文脈から推定する仮説であって、計測値ではありません。
不確実性を表現し、仮定を透明に保つことが重要だとしています。

検証実験の結果

論文には、追加学習なしで動くパイプライン「MENTIS」と、448の意思決定シーンからなる評価データセット「Menti-Bench」が含まれています。
8つの言語モデル（OpenAIのGPT-5.6-Solなど5つ、AnthropicのClaude Fable 5など3つ）を比較しました。

F1スコアの結果は以下の通りです。

• 直接回答: 63.3
• 自己整合性（同じ質問を6回して多数決）: 77.9
• 完全なMWMパイプライン: 87.9
• 人間: 98.5

最も弱いモデル（GPT-4.1）でもMWMを使えば84.9に達し、自己整合性を加えた最強モデル（GPT-5.6-Sol、83.6）を上回りました。
心の状態を扱うチャンネルを外すと平均12.1ポイント、物理チャンネルを外すと16.5ポイント下がります。
対人シーンでは改善幅が26.4ポイントと、物体中心のシーン（14.0ポイント）のほぼ2倍です。

ボトルネックはシミュレーション工程にあります

人間との差を縮めるには、どの工程を改善すればよいのか。
各工程を人手の参照解に置き換えると、最も大きかったのが「状態遷移の完全な予測」（+3.5ポイント）で、次いで「初期状態」（+2.8）、「観測」（+1.7）でした。
すべてを置き換えると97ポイントまで上がります。

つまり、現状の正しい状態を記述することよりも、物理と心が結合した世界で次の状態をシミュレーションする部分が、最大の課題です。

世界モデルの定義はまだ定まっていません

世界モデルは、言語モデルの次を担う大きな賭けとされています。
Google DeepMindの運営責任者を退いたデミス・ハサビス氏は、研究時間の多くをこのテーマに費やしており、「ChatGPTの瞬間」が来ると期待しています。
一方、ピキン大学の国際チームは、Soraのようなテキストから動画を生成するモデルは現実とのフィードバックがないため世界モデルから除外する、より狭い定義を提案しています。
ヤン・ルカン氏は生成的アプローチを否定し、抽象表現を支持しています。

今回のMWM研究は、物理と心を結合するという視点を加えたことで、今後の世界モデル開発に新たな論点を提供しています。