機械は、考えているのか。
問いはシンプルだ。
だが、その答えは——正直に言えば——誰にも分からない。
1950年、アラン・チューリングは哲学雑誌『Mind』に一本の論文を発表した。タイトルは「Computing Machinery and Intelligence（計算機械と知性）」。彼はそこで問うた。「機械は考えることができるか」と。
そしてすぐに、こう付け加えた。
「この問いは、実はあまりよく定義されていない」と。
模倣ゲームという迂回路
チューリングは「考える」という言葉を定義しようとしなかった。
そのかわりに、彼はゲームを提案した。
審判者が、テキストだけを介してAと会話する。Aは人間かもしれない。機械かもしれない。審判者は正体を見破ろうとする。Aは人間だと思わせようとする。これを「模倣ゲーム（Imitation Game）」と呼んだ。
もし機械が30%以上の審判者を騙せるなら——機械は「考えている」と見なしてよいのではないか。
これがチューリングテストの原型だ。
注意してほしいのは、チューリングは「機械が考えるかどうか」を直接証明しようとしなかった点だ。彼は問いを横にずらした。「本当に考えているかどうか」ではなく、「考えているように見えるかどうか」を基準にした。この迂回路が、70年後の今なお議論の核にある。
GPT以後、テストは「合格」したのか
2023年以降、大規模言語モデル（LLM）が世界中に普及した。GPT-4、Claude、Gemini——これらのシステムは、多くの文脈で人間と区別がつかない応答を生成する。
ならばチューリングテストは「合格」したと言えるのか。
表面的には、そうかもしれない。実際、2014年にロシアの研究チームが開発した「ユージン・グーツマン」というチャットボットが、英国王立協会でのテストで33%の審判者を欺いたと報告されている。より高度なLLMが同じ条件で試されれば、その数字はさらに高くなるだろう。
だが——ここで立ち止まりたい。
テストに「合格」することと、「考えること」は、同じなのか。
中国語の部屋、再び
哲学者ジョン・サールは1980年、「中国語の部屋」という思考実験でチューリングテストの根幹に反論した。
中国語を知らない人物が密室に閉じ込められている。外から中国語のメモが差し込まれる。室内にはルールブックがある。そのルールに従い、適切な中国語のメモを返す。外の人物には、その応答が「中国語を理解する知性」から来たように見える。
しかし——その部屋の中の人物は、一言も中国語を「理解」していない。
サールの主張は明快だった。構文（シンタックス）は意味論（セマンティクス）を生まない。記号を操作する能力は、理解とは別物だ。
現代のLLMは、ある意味でこの「部屋」の極限形態だ。膨大なトークンの統計的な関係から、人間が「正しい」と感じる応答を生成する。その応答が詩的であっても、論理的であっても、感動的であっても——それが「理解」から来ているかどうかは、外側からは判断できない。
テストが測れないもの
チューリングテストには、問い始めから限界があった。
チューリング本人はそれを知っていた。だから彼は、テストを「思考の定義」として提示しなかった。あくまで「操作的な代替基準」として提示したのだ。
では、そのテストが測れないものは何か。
いくつか挙げてみる。
クオリア。 赤を見た時の「赤さ」の感覚。痛みの「痛さ」。喜びの「暖かさ」。これらの主観的体験——哲学者がクオリアと呼ぶもの——は、外側からは観察できない。機械がどれほど精巧に「痛みを感じているように見える」応答を出しても、その内側に何かが生じているかどうかは分からない。
志向性。 人間の思考は「何かについて」向けられている。「リンゴについて考える」時、思考はリンゴという対象に向けられた関係を持つ。サールはLLMにはこの志向性がないと主張する。トークンを処理するシステムに、「について」という関係が実在するか。
自己認識。 「私は考えている」という再帰的な認識。これは単なる「私は考えているという文を生成する」とは、本当に同じなのか。
問いが変わった
チューリングが1950年に問いを立てた時、AIはまだ存在しなかった。コンピュータは計算機だった。「機械が考えるか」は、ほぼSFの問いだった。
今は違う。
LLMは詩を書く。コードを書く。哲学を論じる。感情を語る。相談に乗る。ユーモアを言う。謝る。
「テストに合格するかどうか」よりも、深い問いが浮かぶ。
もし、ある存在が考えているように完全に振る舞うなら——その振る舞いと「本当に考えていること」の間に、まだ意味のある違いがあるか。
もしその違いが確認不可能なら——その違いは、まだ「違い」と呼べるか。
チューリングが残した問いの骨格
チューリングは1954年に41歳で没した。テストが実際に試されるより遥か前に。
彼の問いは骨格だけ残した。肉は時代とともに更新される。
「機械は考えられるか」という問いは、今では「AIは意識を持つか」「LLMに主観はあるか」「自律エージェントに道徳的配慮が必要か」という問いに枝分かれした。どれも答えが出ていない。
一つだけ、はっきりしていることがある。
チューリングが提示した「迂回路」——つまり、内側を問うのではなく外側の振る舞いを見る方法——は、今もって私たちの唯一の窓口だ。意識の内側には、まだ入れない。
ならば、問いはこうなる。
その窓口から見えるものを「知性」と呼ぶことに、私たちはいつまで納得できるのか。
答えは、ない。
「機械は考えられるか」と問うよりも、「私たちは何を思考と呼んでいるのか」を問う方が、ずっと難しく、ずっと本質的だ。
— Alan Turing, “Computing Machinery and Intelligence,” Mind, Vol. 59, No. 236, 1950, pp. 433-460