毎日使っているうちに、AIがこちらの事情を覚えていく。そう感じる場面はたしかにあります。けれど、その感覚の大半は、AIが賢くなったのではなく、こちらの頼み方が上手くなったか、渡している資料が増えたかのどちらかです。
AIには、はっきり分かれた二つの時間があります。規則を掴む時間と、掴んだ規則を当てはめる時間。前者を学習、後者を推論と呼びます。この二つを混ぜて考えると、話がほとんど通じなくなります。
学習は、大量の例を読み込んで、そこに共通する規則を数値として絞り出す作業です。何か月もかけ、専用の計算機を大量に並べて行われます。費用も、電気も、ここで大きく使われます。
この作業をするのは、たいていAIを作っている側の会社です。私たちのような使う側が、ふだん触るのは学習が終わったあとのAIです。
学習(training) ── 例から規則を掴む。何か月、莫大な計算。作る側の仕事。
推論(inference) ── 掴んだ規則を当てはめて答える。数秒。使う側の仕事。
用語の定義は Google の機械学習クラッシュコースが平易です。Google Developers「機械学習クラッシュコース」↗
私たちがAIに質問しているとき、AIの中身は一文字も書き換わっていません。掴んだ規則はそのままで、渡された文章に当てはめているだけです。
ですから、午前に伝えたことを午後には忘れています。同じ会話の中で覚えているように見えるのは、それまでのやりとり全部を毎回まとめて読み直しているからです。読み直せる分量には上限があり、そこを超えた古い話は、静かに落ちていきます。
ここが分かると、「先週お願いした件、覚えていますか」が通じない理由が腹に落ちます。忘れっぽいのではなく、覚える仕組みを持っていないのです。
いちばん多いご質問です。整理すると、送ることと、学習に使われることは別です。送った文章はその場の推論に使われ、答えを返したら役目を終えます。学習の材料に回すかどうかは、契約と設定で決まる別の話です。
事業で使う契約では、入力を学習に使わない設定が用意されているのが通例です。当社は、これを導入時に必ず書面で確認します。「たぶん大丈夫」で進めない、というだけの決めごとですが、あとで揉めないためにここは省きません。
「うちのデータで学習させれば、うちの会社のことを覚えるのでは」というご相談も多くあります。技術としては可能です。学習済みのAIに自社の例を足して、口調や書式を寄せる方法があります。
ただ、当社が最初にお勧めすることはほとんどありません。理由は三つです。第一に、費用と手間がかかります。第二に、覚えさせた内容が古くなったとき、差し替えが簡単ではありません。第三に、そもそも多くの困りごとは資料を読ませるだけで足りるからです。
言い方を変えると、微調整は「言い方」を寄せる方法で、資料を読ませるのは「中身」を足す方法です。社内の事実を答えてほしいなら、後者から入るほうが速く、安く、直しやすい。当社が自社で使っているのも後者です。
AI本体は書き換えられません。それでも、返ってくる答えの質はかなり動かせます。触れるのは次の三つです。
1. 渡す資料 ── 答える前に社内の資料を検索して読ませる。これがRAGです。効果がいちばん大きく、資料を差し替えたその日から答えが変わります。
2. 頼み方の型 ── 役割、条件、出してほしい形を先に固定する。人によって出来が変わる状態から抜けられます。
3. モデルの選択 ── 難しい仕事だけ賢いモデルに回し、単純な仕事は軽いモデルで済ませる。費用が変わります(第9章 費用)。
逆に言えば、この三つを触らずに「使い込む」だけでは、答えは良くなりません。賢くなるのを待つのではなく、渡すものを変える。ここが導入の勘所です。
この章の次の記事では、その学習に何種類あるのかを見ます。「うちのデータで何ができるか」は、実はここで決まります。
章と記事の全体は図書館の見取り図で一枚にまとめています。