問い合わせの記録を読ませると、AIはこう返してきます。「資料請求をされたお客様は、成約率が高い傾向にあります」。もっともらしい話です。ここで資料請求を増やす施策に予算を付けると、たいてい空振りします。
資料を請求したから成約したのではなく、もともと買う気のある方が資料を請求しただけかもしれません。並んで動いていることと、一方が他方を起こしていることは、別のことです。
第1章の入口で書いたとおり、AIは例から規則を見つけます。その規則は「AとBが一緒に動く」という形をしています。どちらが先かも、間に何が挟まっているかも、データそのものからは出てきません。
ですからAIは、悪気なく取り違えます。しかも文章は流暢です。説明が上手いことと、正しいことは無関係です。
相関 ── 一緒に動いている、という関係。データから測れます。
因果 ── 一方が他方を起こしている、という関係。データだけでは決められません。
この区別は統計の基本として整理されています。総務省統計局「なるほど統計学園」↗
実務で見かけるのは、だいたいこの三つです。
1. 第三の要因
「訪問回数の多いお客様は成約する」。実は担当者が、見込みの高い相手に多く通っていた。動かしていたのは見込みの高さです。
2. 向きが逆
「問い合わせ対応が速い月は、解約が少ない」。忙しくない月だから速かった、という順序かもしれません。
3. 偶然
項目を増やすほど、意味のない一致は必ず出てきます。三十項目も並べれば、何かは繋がって見えます。
統計の専門知識がなくても、次の三つを口に出すだけで、かなり止まります。
「順番はどちらですか」 ── 先に起きたのはどちらかを、時刻で確かめます。
「両方を動かしている別のものは、ありませんか」 ── 季節、担当者、そもそもの見込み。
「片方だけ変えて、試せますか」 ── 小さく片方だけ動かして比べる。これが最も強い確かめ方です。
三つめが取れる場面は、実は多くありません。ですから当社は、取れないときは「分からない」と書いて残すようにしています。分かったことにしてしまうと、その誤解が次の判断の土台になって、後で戻せなくなります。
三つめの問いが要になります。とはいえ、大がかりな実験をする話ではありません。実務では、次のどれかで足ります。
期間で分ける ── 今月だけ変える。季節の影響を受ける業務では弱い手です。
対象で分ける ── 名簿を半分に分け、片方だけ変える。いちばん素直で、いちばん強い。
順番をずらす ── 拠点や担当を順に切り替える。全員に行き渡らせながら比べられます。
大事なのは、比べる相手を先に決めておくことです。後から「去年と比べて良くなった」と言い始めると、たまたま良かった年と比べたのか、施策が効いたのかが分からなくなります。
そして、変えるのは一度に一つだけにします。二つ同時に変えると、どちらが効いたのか永久に分かりません。一つずつ動かすほうが、遠回りに見えて速い。
ここが、この連載で何度も出てくる線引きの根っこです。AIは、候補を大量に、速く、疲れずに出してきます。けれど「これは原因だ」と決める行為には、事業の文脈と、外していたときに責任を取る人が必要です。
当社の仕組みでは、AIが単独で方針を決める経路を構造として作っていません。決めるべきことだけが人間の一点を通る形にしてあります（YOHAKU OS）。理由の半分は、まさにこの取り違えです。
もう半分は、間違えたときに戻せるかどうか。線の引き方は第7章 人が決めることに書いています。
ここまでで第1章の深掘りは終わりです。AIについてのことばがそろったので、次の章では、いちばん身近な生成AIの中身へ進みます。
章と記事の全体は図書館の見取り図で一枚にまとめています。