人は「正しさ」を確かめず、「当たり」を探しにいく

一言でいうと

4枚のカードがある。「片面が母音なら、裏面は偶数」という規則が正しいか確かめるには、どのカードをめくればよいか。ほとんどの人が間違える。人は、規則を裏づけるカードをめくろうとして、規則を反証しうるカードを見落とす。私たちの推論は、確認に偏り、反証に向かわない。

論文が実際に言っていること

有名な「4枚カード問題（選択課題）」だ。テーブルに4枚のカードが置かれている。それぞれ片面にアルファベット、もう片面に数字が書かれている。見えているのは、たとえば「A」「K」「4」「7」。

ルールはこうだ。「片面が母音なら、そのカードの裏面は偶数である」。このルールが成り立っているかを確かめるには、どのカードを裏返して確認する必要があるか。必要最小限を選べ、という問題だ。

多くの人は「A」を選ぶ。これは正しい（母音の裏が偶数か確認できる）。そして多くの人が「4」も選ぶ。だが、これは論理的には無意味だ。4の裏が母音でも子音でも、ルール（母音なら偶数）は破れない。

論理的に必要なのに、ほとんど誰も選ばないのが「7」だ。7は奇数。もしその裏が母音だったら、「母音なら偶数」というルールは破れる。つまり「7」は、ルールを反証しうる唯一の決定的なカードだ。正解は「A」と「7」。ところが、この正解にたどり着く人は1割程度しかいなかった。

ウェイソンの結論はこうだ。人は、規則を検証するとき、それを確認する証拠（母音や偶数）を探しにいく。だが、論理的に情報を持つのは、規則を反証しうるケースのほうだ。人の推論は、確認に引き寄せられ、反証を避ける——後に「確証バイアス」として広く知られる傾向の、鮮やかな実験室での現れである。

だから、どう生きるか

自分の考えを、「裏づけ」でなく「反証」で試す。

これがこの実験の芯だ。ある考えが正しいか確かめたいとき、人は自然と、それに合う例を探す。だが、合う例をいくら集めても、考えが正しい保証にはならない。決定的なのは、「もし間違っているなら、どんな事実が観察されるはずか」を考え、その事実を探しにいくことだ。7をめくること。自分の説に都合の悪いデータを、意図的に探す。これができる人は少ないからこそ、価値がある。

「うまくいった例」の数を、正しさの証拠にしない。

ある方法、ある信念、ある人物評について、「当てはまる例」はいくらでも見つかる。人は当たりを探すのが得意だからだ。だが、それは確証バイアスが働いているだけかもしれない。むしろ問うべきは、「反例はないか」「これが間違いだとしたら、何が起きているはずか」。都合のいい例が積み上がっているときほど、7を探す。

AIに、自分の説の「反証」を担当させる。

いまの文脈では、ここが効く。AIに何かを尋ねると、こちらの前提に沿って、それを裏づける材料をなめらかに揃えてくれる。放っておくと、AIは巨大な「A」と「4」の供給装置になる。だから、意識的に役割を逆にする。「この考えの反証になりうる事実は」「これが間違っているとしたら、その理由は」。確認ではなく反証を頼む。7をめくる係を、AIに任せる。

ここからは僕の飛躍だ

この課題は、抽象的な記号（文字と数字）で行われた。後の研究では、同じ論理構造でも、社会的な文脈（「酒を飲むなら20歳以上」といった規則）に置き換えると、正答率が大きく上がることが分かっている。だから「人は論理が使えない」と単純化するのは誤りで、文脈しだいで反証的推論もできる。

「AIに反証を担当させろ」は、この知見から僕が引いた実践で、1968年のこの論文が述べていることではない。

それでも、抽象的な検証場面で人は確認に偏り、反証を見落とす、という中核は、確証バイアス研究の出発点として重い。自分の考えを、裏づけでなく反証で試す癖をつけること。それがこの一本の使いどころだと思う。