部屋の中の男
1980年、カリフォルニア大学バークレー校の哲学者 ジョン・サール は、学術誌『Behavioral and Brain Sciences』にある思考実験を発表した。それは人工知能研究の楽観論に冷水を浴びせるものだった。
小さな部屋に、中国語をまったく理解しない英語話者が閉じ込められている。部屋にはルールブックがある。「こういう形の記号が渡されたら、こういう形の記号を返せ」と書かれた膨大なマニュアルだ。男にとって中国語の文字は単なる図形のパターンにすぎない。
外部から中国語の質問が紙切れで差し入れられる。男はルールブックを参照し、対応する中国語の記号を書いて返す。外から見ると、この部屋は完璧な中国語の会話を行っているように見える。質問に対して的確で知的な回答が返ってくるので、部屋の外の中国語話者は「この部屋の中には中国語を理解する知性がある」と確信するだろう。
しかし、部屋の中の男は中国語を一文字も「理解」していない。
サールはこの思考実験を、当時隆盛していた 「強いAI」仮説 への反論として提示した。強いAI仮説とは、適切にプログラムされたコンピュータは単にシミュレーションするだけでなく、実際に「心」を持つという主張だ。サールの論文が投稿された1980年は、エキスパートシステムがAI研究の主流であり、ルールベースのプログラムが知的に振る舞うことへの期待が高まっていた時期だった。
構文と意味論の深い溝
サールの主張は明快だ。コンピュータがやっていることは 「構文処理（シンタックス）」 にすぎない。記号を規則に従って操作しているだけで、その記号が何を「意味」するかは一切関知していない。
人間が言葉を理解するとき、そこには意味の把握——意味論（セマンティクス） がある。「りんご」という言葉を聞いたとき、赤い果実の映像、甘酸っぱい味、手に持ったときの重さが想起される。木から落ちるりんごの記憶、子供の頃に食べたアップルパイの匂い、ニュートンの逸話——「りんご」という一語が引き起こす意味のネットワークは、個人の身体的・感覚的経験と深く結びついている。
この点は哲学者ルートヴィヒ・ウィトゲンシュタインの言語哲学とも響き合う。ウィトゲンシュタインは後期の思想で、言葉の意味はその「使用」にあると論じた。言語は生活の中で実践的に用いられることで意味を持つ。辞書的な定義だけでは言葉の意味を捉えきれない。中国語の部屋の男は、記号を「使って」いるように見えるが、実際には生活形式の中で言語を実践してはいない。
構文的に正しい出力を返すことと、意味を理解していることの間には、埋めがたい溝がある。 サールはこれを「強いAI」への根本的反論として提示した。プログラムはどれだけ精巧であっても、構文から意味論を生み出すことはできない、と。
反論——システム全体を見よ
この思考実験には、即座に強力な反論が出された。 「システム応答」 と呼ばれるものだ。
部屋の中の男は確かに中国語を理解していない。しかし「男＋ルールブック＋部屋」というシステム全体としては理解しているのではないか？ 脳の個々のニューロンも日本語を理解していないが、ニューロンの集合体である脳は理解している。同様に、システムの構成要素が個別には理解を持たなくても、 システム全体として理解が創発する 可能性はあるのではないか。
サールはこれに「では男がルールブックをすべて暗記したらどうか。それでも理解していないだろう」と再反論した。ルールブックが男の記憶に内化されても、男は相変わらず意味不明な図形を別の図形に変換しているだけだ、と。
他にも多くの反論が寄せられた。「ロボット応答」は、中国語の部屋にカメラやマイクなどのセンサーを取り付け、身体を持たせれば理解が生じるのではないかと提案する。これは後に 「身体性認知科学（embodied cognition）」 として発展する考え方と深く関連している。私たちの理解が身体的経験に根ざしているなら、身体を持たないシステムには原理的に理解が不可能かもしれない。
「脳シミュレータ応答」は、もしプログラムが中国語話者の脳のニューロン一つ一つの発火パターンを忠実にシミュレートしていたらどうか、と問う。ニューロンレベルで完璧な模倣が行われていれば、それは「理解」とどう違うのか。サールはこれに対しても、 シミュレーションは実物ではない と主張した。火のシミュレーションは熱くないし、水のシミュレーションで喉は潤せない、と。
サールはこれらすべてに反論を用意したが、この応酬は40年以上続いており、決着はついていない。
LLMの時代に蘇る問い
現代の大規模言語モデル（LLM）は、まさに巨大な「中国語の部屋」のようにも見える。
膨大なテキストデータから統計的パターンを学習し、次に来る最も確からしいトークンを予測する。文法的に完璧で、文脈に即した応答を返す。だが、その内部で「理解」は起きているのか？
興味深いことに、LLMは単純なルールブックの参照とは質的に異なる処理を行っている。比喩を生成し、類推を用い、未見の問いに創造的に応答する。これは「中国語の部屋」のルールブックよりも、はるかに人間的な振る舞いだ。
さらに注目すべきは、LLMが示す 「創発的能力」 だ。学習データに明示的に含まれていないはずのタスク——論理的推論、コード生成、多言語間の翻訳——を遂行できることがある。これは単純な記号操作を超えた何かが起きている兆候なのか、それとも巨大なデータセットに暗黙的に含まれるパターンを抽出しているだけなのか。
チューリングテストの提唱者アラン・チューリングは、「機械が考えているかどうか」という問い自体を放棄し、「機械が考えているように見えるかどうか」に置き換えるべきだと主張した。サールの中国語の部屋は、まさにこの置き換えに異議を唱えるものだった。「見えるかどうか」と「実際にそうであるかどうか」は別の問題だ、と。
だからこそ問いはより複雑になる。 「理解」の定義そのものを再検討する必要があるのかもしれない。 もし理解が「記号と外部世界の因果的接触」を必要とするなら、コンピュータには原理的に理解は不可能だ。だが理解を「入力に対して適切で柔軟な出力を生成する能力」と定義するなら、LLMはすでにある程度の「理解」を持つことになる。
考えるための問い
この思考実験を出発点に、以下の問いについて考えてみてほしい。
- 「理解している」とはどういう状態か？ 他者が本当に理解しているかどうかを、外部からどうやって判定できるのか？ 私たちは日常的に、他者の「理解」を行動から推測している。それ以上の判定方法はあるのか？
- 振る舞いと内面は分離できるか？ 完璧に理解者のように振る舞う存在を、「理解していない」と断定する根拠は何か？
- 人間の理解も「高度なパターンマッチング」ではないのか？ 脳のニューロン発火と、LLMのトークン予測の間に、本質的な差はあるのか？ もし差があるとすれば、それは何か？
- 理解の有無は重要か？ もし区別がつかないなら、「本当の理解」にこだわることに意味はあるのか？ それとも「内面のない理解」はいずれ危険な帰結をもたらすのか？
