会議室で、若い創業者がスライドを1枚だけ映して言った。この技術に今投資しなければ、10年後、文明の転換点に取り残される。実現確率を聞くと、答えは歯切れが悪くなる。誰にも分からない、でも、もし起きたら、会社の存在意義が問われる——そう畳みかけられた。
確率は分からない。だが帰結は途方もなく大きい——この型の主張に、反論の言葉を持たないまま頷いてしまった経験がある人は少なくないはずだ。この構造に「パスカルの脅迫」という名を与えたのは哲学者ニック・ボストロムだ。2009年、学術誌 Analysis（Vol. 69, No. 3, pp. 443–445）に発表した論文「Pascal’s Mugging」で、期待値という道具がいかに簡単に説得の武器へ転用されるかを定式化した。
物乞いの脅し——思考実験の原型
ボストロムの原論文では、路上で見知らぬ人物（マガー）が主人公に近づき、財布を渡せば翌日10倍にして返す、拒めば特殊な能力で途方もない苦痛を与えると持ちかける。本稿では、この設定を身近な数字に置き換えて説明している。1000円を渡してほしい、もし渡さなければ、特殊な能力を使って途方もない数の人々に苦痛を与える——その確率は100万分の1かもしれない。でも、もし起きたら、犠牲者の数は数十億人規模になる。
確率は極めて低い。しかし帰結の大きさを都合よく引き上げれば、期待値計算——確率×帰結——は簡単に「渡すべきだ」という結論へ倒れる。100万分の1の確率でも、帰結が数十億人分の苦痛であれば、期待値としては1000円を渡す理由が成立してしまう。
この設定は荒唐無稽に見える。実際に道端でこの脅しを受ける人はまずいない（もし受けたら、それはそれで別の意味で厄介な話だ）。ボストロムがこの思考実験で暴いたのは、期待値という計算道具そのものが持つ脆弱性だ。確率をどれだけ下げても、帰結を無限に釣り上げれば、期待値は無限に大きくできる。計算の形式は正しいまま、結論だけが恣意的に操作可能になる。
なぜ期待値計算は壊れるのか
期待値計算は、本来「確率と帰結の両方に、ある程度の根拠がある」ときに機能する道具だ。保険料の設定、投資判断、リスク管理——これらはすべて、過去のデータや統計的な裏付けをもとに確率を見積もり、その上で期待値を計算する。
パスカルの脅迫が突くのは、この前提が崩れた場面だ。確率の見積もりに根拠がなく、主張者は確率が低いとだけ言い、帰結の大きさだけを一方的に釣り上げてくる。このとき、期待値計算は健全な意思決定の道具ではなく、主張者に有利な結論を機械的に生成する装置に変わる。
数学的な構造だけを見れば、この操作に上限はない。帰結を「数十億人」から「全人類の未来」「文明の存続」へと引き上げていけば、確率をどれだけ小さくしても、期待値は常に行動すべき側に倒れ続ける。反論する側が確率の低さを無視できると言っても、主張者は帰結をもう一段引き上げればいいと返せる。この応酬に、論理的な終着点は存在しない。
この壊れ方に対して、理論の側からも反論は出ている。効用そのものに上限を設け、帰結をどれだけ引き上げても期待値が無限に膨らまないようにする「有界効用関数」という案。もう一つは、経済学者ロビン・ハンソンが提示した「レバレッジ・ペナルティ」——影響を受ける人数が多い主張ほど、自分がその影響力を持つ本人である確率を割り引く考え方だ。n人に影響する話なら、「自分がその1人である確率」は1/nに下がるはずだという理屈である。ただしどちらも、数式の側から蓋をする試みにすぎない。本稿がこの後で示す「確率の根拠を問い返す」という実務的な対応とは、層が異なる。
ビジネスの現場でどう現れるか
冒頭の場面は、特定の1社で実際にあったやり取りではない。いくつもの資金調達ピッチに共通して現れる型を、1つの場面に合成した。実現確率は分からないまま据え置き、帰結だけを文明の転換点・存在意義という言葉で最大化する——この構造をそのまま体現していた。聞き手が確率の低さを指摘しても、主張者は帰結の大きさを再強調するだけで、議論はかみ合わない。
保険営業にも似た型が現れる。この保証に入らなければ、万が一の事態で会社が倒産する、という売り文句だ。万が一の発生確率がどれほどのものか、具体的な数字を提示しないまま、帰結の重大さだけが語られる。確率の根拠を尋ねても、起きたら取り返しがつかないという帰結の話に押し戻される。
AIリスクを巡る論争でも、同じ構造がしばしば見られる。この技術開発を今止めなければ人類の存続に関わる、という主張と、確率は無視できるほど小さい、という反論が、互いに確率の推定根拠を示さないまま平行線をたどる。どちらの陣営が正しいかを本稿は判定しない。ここで確認したいのは、確率の根拠が曖昧なまま帰結の大きさだけで議論が進むとき、パスカルの脅迫と同じ構造が働いているという事実だ。
対抗策——確率の根拠を問い返す
この構造への対抗策は、期待値の数字を計算し直すことではない。期待値というゲームの土俵に乗った時点で、帰結を釣り上げる側が有利になる構造は変わらないからだ。有効なのは、土俵そのものを変えること——確率をどうやって見積もったのか、と問い返すことだ。
この問いは、主張者に立証責任を戻す。確率が分からないのであれば、期待値計算は成立しない。分かっているというなら、その根拠——過去の事例、統計的なモデル、第三者による検証——を示す義務が生じる。帰結の大きさで押し切ろうとする主張は、この問いの前で立ち止まらざるを得なくなる。
冒頭のピッチに戻れば、有効な質問は「10年後に文明の転換点が来る確率をどう見積もったか」であって、「もし来なかったらどうするのか」ではない。帰結を尋ねる問いは相手の土俵にとどまり続けるが、確率の根拠を尋ねる問いは主張の土台そのものを崩しにいく。
確率は低いが、起きたら大変——この言葉を次に聞いたとき、帰結の大きさに気を取られるのではなく、まず確率の根拠を尋ねてみてほしい。その問いに答えられない主張は、期待値ではなく、期待値の形をした説得の道具にすぎない。
パスカルの脅迫が突くのは、次の2点だ。
- 確率の見積もりに根拠がないまま、帰結の大きさだけが一方的に釣り上げられていないか
- 反論が「確率の低さ」ではなく「帰結の大きさ」に対して行われ、相手の土俵から出られていないか
同じくパスカルの名を冠する思考実験にパスカルの賭け——合理的に神を信じるべきかがある。あちらは「不確実な状況でどう期待値計算をすべきか」を問うのに対し、本稿が扱うのは「期待値計算という道具立てが、どこまで操作されうるか」という一段メタな問いだ。
関連する思索
参考文献
- Bostrom, N. (2009). “Pascal’s Mugging”. Analysis, 69(3), 443–445.