30秒サマリ

「AI＝情報処理の延長線上にある高度な予測機械」という通説を正面から否定する論文。AIは過去データの確率分布から次を予測するだけで、本質的に後ろ向き。人間の認知は「理論化（theorizing）」——因果構造を仮定し、まだ存在しないデータを設計して世界に介入する前向きなプロセス。その差を「データ-信念の非対称性（data-belief asymmetry）」と定義し、問題を設定する能力こそが人間の不可替代領域だと主張する。戦略的文脈では、AIに委ねるべきは実行の効率化であり、「何の問題を解くか」の決定は人間の理論から始まると結論。

研究の背景・問い

問いの起点

AIが人間の認知を代替できるか？という問いに対し、著者らは「AIと人間の認知は同種の計算プロセスだ」という前提に異議を唱える。

  • 「Attention Is All You Need」（Transformer論文・2017年）への批判的応答として論文タイトルを設定
  • 「スケーリングすれば人間レベルに達する」という楽観論（AGI漸近仮説）を標的にする

情報処理モデルの問題

従来の認知科学・AIは人間の脳を「情報処理装置」として扱う（計算主義・functionalism）：

  • 入力→処理→出力のシーケンス
  • Bayesian（ベイズ）更新：新たな証拠で事前確率を事後確率に更新するプロセス
  • 人間もAIも「データを受け取って最適な推論をする」という統一フレーム

Felin & Holwegはこれを拒否する。「人間の認知は情報処理ではなく、世界に介入して新しいデータを生み出す理論化のプロセスだ」。

なぜこの区別が重要か

  • AIツールへの依存が増すほど、人間が「何を問うか」を考えなくなるリスクが高まる
  • 戦略立案・イノベーション・意思決定でAIに任せてよい部分と、任せてはいけない部分の境界が曖昧なまま
  • 差異を理解しないと「AIに問われた問い」を解いているだけで、正しい問いを立てていない状態が続く

主要な論点

1. 理論化（theorizing）の定義

「理論化」とは単なる仮説の提示ではなく：

  • 因果構造（causal structure）を仮定する：「AがBを引き起こす、なぜなら…」という形式
  • 反事実的推論（counterfactual reasoning）：「もしCしなかったら、Dは起きなかった」という介入思考
  • 問題設定（problem formulation）：解くべき問いを見つける能力そのもの
  • 前向き性：まだ存在しないデータを「どう生み出すか」を考える

人間の理論は「観察できるかどうかは使用する理論に依存する」（Einstein）。つまり理論がデータの何を見るかを決定し、理論なき観察はない。

2. AIの確率・頻度ベース予測の限界

AIの本質を3点で整理：

後ろ向き（backward-looking）

  • 大規模言語モデル（LLM：大量テキストで訓練する言語生成モデル）は次トークン（単語の断片）を予測するだけ
  • 訓練データに存在しなかったパターンは原理的に生成できない
  • 「現在の支配的観点のコンセンサス」しか反映しない

模倣的（imitative）

  • GPT系LLMは13兆語規模で訓練するが、これは「既存人類の知識の重み付き平均」
  • 創造性は"小文字のg（generativity）"：既存素材の新しい組み合わせであり、ゼロからの創造ではない
  • 「ウィキペディアレベルの知識」提供に優れるが、知識の地平を押し広げない

連想的（associative）

  • Pearl（ジューデア・パール：因果推論の数学的フレームワーク「do-calculus」の開発者）の分類では、AIは「相関・連想レベル」にとどまる
  • 介入（intervention）・反事実（counterfactual）のレベルには到達していない

3. データ-信念の非対称性（data-belief asymmetry）

論文の中核概念。図式化すると：

  • AI側：「データ → 確率的推論 → 予測」（後ろ向き、データ依存）
  • 人間側：「理論・信念 → 実験設計 → 新しいデータ → 理論の更新」（前向き、データを生む）

ライト兄弟の例

  • 当時のデータ：Otto Lilienthal（オットー・リリエンタール）の墜死、Lord Kelvin・Simon Newcomb（著名物理学者たち）による「人力飛行は不可能」宣言
  • データに従えば：飛行機を作らない意思決定が「合理的」
  • Wright兄弟の実際：「揚力・推進力・操舵」という3問題の因果構造を仮定し、解けば飛行できるという理論を持っていた
  • 結果：理論がデータより先行し、データは後から追認した

Fred Smithの例（FedEx創業）

  • 銀行もデータも「失敗」と判定
  • Smithは「この信念は正しい」という前向きな理論を持ち、実行によって現実を創造した
  • 「信じる意志（will to believe）」がデータより先にあった

Kierkegaard（キルケゴール：デンマークの哲学者）の逆説

  • 「人生は後ろ向きにしか理解できないが、前向きに生きねばならない」
  • AIは「後ろ向き理解」の機械。人間は「前向きに生きる」存在

4. 問題設定能力（problem formulation）

Felinが「人間の不可替代領域」として最も強調する能力：

  • ガリレオ：当時の支配的観点（アリストテレス物理学）のデータを無視し、新しい問いを立てた
  • Southwest航空：「ハブ・アンド・スポーク（拠点空港を中継する運航方式）は最適」というデータコンセンサスを無視し、ポイント・ツー・ポイントモデルで価値を創造
  • 共通点：「現在のデータが何を言っているか」ではなく「どんな問いを立てるか」が先行

AIに問題設定はできない理由：

  • 何を問うかは価値観・目的・意図に依存する
  • 訓練データに問いが含まれていれば「似た問い」を生成できるが、それは模倣
  • 「誰も立てたことのない問い」は定義上、訓練データに存在しない

5. 戦略論への接続

論文の掲載誌 Strategy Science に合わせた応用命題：

  • 「戦略が大きな価値を創造するためには、ユニークで企業固有でなければならない」
  • 企業固有性は「ユニークな信念と、他の誰も予見しない価値創造の理論ベースの論理」から生まれる
  • AIは業界標準のデータを標準的な方法で処理するため、全員が同じ洞察に収束する → 競争優位の消滅

つまり：AIを使えば使うほど、戦略的差別化は難しくなる。差別化の源泉は人間の固有理論にある。

AIと人間の役割分担への示唆

「何を見るか」を決める能力が不可替代な根拠

Einsteinの格言「観察できるかどうかは使用する理論に依存する」から導かれる：

  • AIはデータを見る。しかし「どのデータを見るべきか」は理論が決める
  • 理論なきAI活用は「ランダムなデータを高速処理」しているにすぎない
  • 正しい問い × 高速AI実行 = 価値創造

人間-AI協業の正しい分業

Felin & Holwegが提唱する構図：

  • 人間：理論を立てる / 問いを設定する / 反事実を設計する / 実験を構想する
  • AI：設定された問いを解く / 大量データを検索・集計する / 既知パターンを高速で照合する

Gopnikの知見（支持根拠）

Alison Gopnik（発達心理学者）の研究：

  • 3〜7歳児はLLMよりイノベーティブ
  • 子どもは少ないデータから因果モデルを構築し、積極的に実験する
  • LLMは多いデータから平均的出力を生成し、実験しない

批判・反論・対抗意見

批判1：ストローマン論法（strawman argument）の疑い

主流AI研究は「深層学習だけで十分」とは主張していない：

  • Bengio・LeCun・Hinton自身が2021 Turing Lectureで深層学習の限界を認めている
  • 因果推論・記号推論との統合研究（neurosymbolic AI）はすでに進行中

→ 著者らが批判するAI楽観論は、実際の最先端研究者の立場ではない可能性

批判2：LLMは「理論」を生成できるかもしれない

Stephen Downes（教育技術研究者）の反論：

  • 「LLMが理論を生成し始めたら、あなたの議論はどうなるか？ 私はできると思う」
  • 最新のLLM（GPT-4o, Claude 3.5, Gemini 1.5等）は chain-of-thought（思考連鎖：推論ステップを明示化する手法）や reasoning モードで確かに「なぜなら〜」という因果構造を生成する

→ 論文執筆時点（2024年初頭）からモデル能力が急速に向上しているため、事実的前提が陳腐化するリスク

批判3：予測的処理（predictive processing）との整合性

認知科学では「人間の脳自体が予測機械」とする見解が有力（Karl Friston の自由エネルギー原理）：

  • 人間も常に次の感覚入力を予測し、予測誤差を最小化している
  • 「理論化」と「高度な予測」の区別は想定ほど明確ではないかもしれない

→ 著者らが否定する「予測」と「理論化」は同じコインの裏表の可能性

批判4：「人間の理論」も後ろ向きではないか

バイアス研究（確証バイアス・後知恵バイアス等）の観点：

  • 人間の「理論」も過去の経験・文化・教育に依存しており、完全に前向きではない
  • ライト兄弟も先人の飛行研究の蓄積（Cayley・Lilienthalの失敗データ）の上に立っていた
  • 「前向き vs. 後ろ向き」の二分法は過度に単純化かもしれない

批判5：適用範囲の限定性

  • 論文の主張は主にイノベーション・破壊的戦略に当てはまる
  • 日常的・反復的意思決定（物流最適化・在庫管理・価格設定）ではAIの「後ろ向き予測」で十分に価値が出る
  • 「AIが不得意な領域」を全体に一般化しすぎている可能性

著者らの反論（Felinの応答）

  • 「LLMがチェス・Goで人間を超えたことは認める。しかしそれは問いが完全に定義された閉じた世界」
  • 「開いた問い（open-ended problem）、新規問い、誰も解いたことのない問いには構造的に届かない」
  • 「詩や文章を生成できても、Emily Dickinsonの洞察の深さには達していない」

次の問い

  • LLM の reasoning（推論）能力向上（o1・o3・Gemini 2.0 Flash Thinking等）は「理論化」に近づいているか、それとも依然として「高速な模倣」か？
  • 「問いを立てる能力」は学習・訓練で強化できるか？もしできるなら、どんな教育・組織設計が有効か？
  • AI活用が深まると、人間の「理論化能力」は萎縮するか強化されるか（cognitive offloading の長期効果）？
  • 企業戦略において「固有理論」を明示化・共有するための実践的フレームワークは何か？
  • FelinらはAIを否定していないが、「AIを使うほど差別化が難しくなる」ならば、AIを使わない戦略が優位になる局面は存在するか？

参考文献

  • Felin, T. & Holweg, M. (2024). Theory Is All You Need: AI, Human Cognition, and Causal Reasoning. *Strategy Science*, 9(4), 346–371. https://pubsonline.informs.org/doi/abs/10.1287/stsc.2024.0189
  • SSRN プレプリント: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4737265
  • EconTalk インタビュー（Teppo Felin）: https://www.econtalk.org/when-prediction-is-not-enough-with-teppo-felin/
  • Vaswani et al. (2017). Attention Is All You Need. *NeurIPS 2017*（本論文が批判的に参照）
  • Pearl, J. & Mackenzie, D. (2018). *The Book of Why*. Basic Books.（因果推論の梯子・do-calculus）
  • Gopnik, A. (2009). *The Philosophical Baby*. Farrar, Straus and Giroux.（子どもの因果推論優位性）
  • Downes, S. コメント: https://www.downes.ca/post/76446
  • Thomas Otter レビュー: https://thomasotter.substack.com/p/ai-again-felin-and-holweg-theory