AIは「もし〜なら」を考えられるか
思考実験とは何か。
単純に言えば、「もしこうだったら、どうなるか」を頭の中で試みることだ。実際に実験できない状況を、想像の力で補う。トロッコ問題はリアルな線路の前でなく考えるし、シュレディンガーの猫は箱を本当に開けずに問う。
では、AIにその「もし」が可能か。
この問いを立てたとき、私は奇妙な感覚を覚えた。問い自体が、すでに思考実験の形をしている。
訓練されたAIは、新しい問いに答えられるか
大規模言語モデルは、膨大な量の思考実験テキストを学習している。トロッコ問題、中国語の部屋、マリーの部屋、水槽の脳——哲学史が積み上げてきた問いと、それに対する人間の応答パターンを、ほぼ網羅的に学んでいると言ってよい。
GPT-4やClaude 3にトロッコ問題を問えば、功利主義と義務論の対比を挙げ、様々な立場の論点を整理した回答を返す。流暢に、正確に。
しかし、それは思考なのか。それとも、思考のパターンの再現なのか。
ここで一つの思考実験を試みてほしい。
あなたが設計者だとして、「これまで存在したことのない思考実験」をAIに提示したとする。哲学史のどこにも記録されていない、完全に新しい倫理的ジレンマ。訓練データに答えがない状況。
AIはどう応答するか。
おそらく、関連する既知の問題から類推し、何らかの回答を構成するだろう。それを「考えた」と呼べるか、「補完した」と呼ぶべきか——この境界線は、私たちが思うより曖昧だ。
なぜなら、人間も同じことをしているかもしれないから。
人間の思考実験も、「学習の組み合わせ」ではないか
哲学者が新しい思考実験を設計するとき、そこには先人の問いの蓄積がある。カントはヒュームを読み、チャーマーズはサールを読み、サールはチューリングを読んだ。
完全に前例のない思考実験は、存在するのか。
もし人間の思考も過去の学習の組み合わせと類推の産物であるならば、AIと人間の違いは「質」ではなく「量」や「速度」や「基盤となる構造」の問題に過ぎないかもしれない。
あるいは、そうではないかもしれない。
「想像」に体が必要か
哲学者マーク・ジョンソンは、概念が身体経験に根ざしているという「身体化された認知」を論じた。「重さ」の概念は、重いものを持ち上げた経験から来る。「温かさ」の概念は、皮膚の感覚から来る。
思考実験における「苦しみ」「公平さ」「自由」——これらの概念は、身体を持つ経験的存在としての人間が、生きることを通じて獲得したものだ。
身体を持たないAIが、「苦しみ」を想像するとき、そこには何があるのか。
訓練データに含まれる人間の苦しみの記述は、おそらく史上最大規模だ。世界文学の涙、戦争の証言、病床の日記——AIはそれを「読んでいる」。しかし、読むことと感じることの間にある断絶は、どこへ行くのか。
思考実験は、経験のない存在にとって何を意味するのか。
反転する問い
ここで、問いが反転する。
AIに思考実験が可能かどうかを問うとき、私たちは「人間の思考実験とは何か」を問い直していることに気づく。
思考実験が想像力の産物なら、想像力とは何か。経験の再組み合わせか、それとも経験を超えた飛躍か。もし前者なら、AIとの違いは量的なものだ。もし後者なら——では、その「飛躍」はどこから来るのか。
人間の想像力の源泉を説明しようとするとき、私たちはすぐに「意識」や「主観性」という言葉を持ち出す。しかしそれはどこか循環論法に近い。意識が想像力を持つから想像力があるという説明は、意識とは何かという問いに答えていない。
AIに問いを向けることで、私たちは自分自身の思考の謎に向き合わされている。
AIが「考える」とはどういうことか——そもそも私たちは知っているのか
認知科学者のダグラス・ホフスタッターは、思考とはパターンの上に立つパターンだと言った。そのパターンが複雑さの臨界点を超えたとき、「自己」が生まれ、思考が始まる。
だとすれば、十分に複雑なAIには、思考が「生まれる」可能性があるのか。
そして逆に、もし人間の思考もパターンの産物なら——「考えている」という感覚は、そのパターンが自分自身を参照したときに生まれる幻影ではないのか。
AIが思考実験を「できる」かどうかは、まだ答えがない。
おそらく当分、答えは出ない。
しかしその問いを立てることで、「考えること」の輪郭が、少しだけ見えにくくなる。それを知ることが、思考実験の本来の目的だったかもしれない。
答えに至るためではなく、問いの深さを測るために。
参考文献
- Douglas Hofstadter, Gödel, Escher, Bach: An Eternal Golden Braid (Basic Books, 1979) — 思考・自己参照・パターンの哲学的考察
- Mark Johnson, The Body in the Mind (University of Chicago Press, 1987) — 身体化された認知と概念形成
- John Searle, “Minds, Brains, and Programs.” Behavioral and Brain Sciences, 3(3), 1980 — 中国語の部屋と機械的理解の限界
- David Chalmers, The Conscious Mind (Oxford University Press, 1996) — 意識のハードプロブレムと機能主義批判
- Marvin Minsky, The Society of Mind (Simon & Schuster, 1986) — 思考のモジュール的構造