生成AIは、次にくる言葉を一つに決めているのではなく、候補それぞれの見込みを出して、そこから選んでいます。いちばん見込みの高いものだけを毎回選ぶ設定もできますが、既定ではそうなっていません。だから、二度目は違う言葉から始まることがあります。
そして言葉は一つずつ積み上がるので、最初の一語が違うと、そのあとの文章もまるごと変わります。ほんのわずかな差が、見た目には大きな差になって出てきます。
揺れの大きさを決める設定があります。よく「温度」と呼ばれるものです。下げると見込みの高い言葉に寄り、上げると珍しい言葉も混ざります。事実を答えさせる仕事では下げ、案を出させる仕事では上げる。使い分けが基本です。
ただし、下げれば毎回同じ答えになる、とまでは言えません。同じ設定でも文章が一致しない場合があります。「完全に同じ」を前提にした仕組みは組まないほうが安全です。
低く ── 分類、抽出、要約、金額や日付の読み取り。ぶれてほしくない仕事。
高く ── 案出し、言い換え、見出しの候補づくり。同じものが返ってきては困る仕事。
設定の意味と目安は Google Cloud の解説が具体的です。Google Cloud「パラメータ値を試す」↗
実務で問題になるのは、内容の違いより形の違いです。ある時は「合計 1,200円」と返り、次は「合計は1200円です」と返る。人が読むぶんには同じですが、後ろの仕組みに渡すと止まります。
ですから、先に形を決めてしまいます。項目名と並び順を指定し、それ以外を書かせない。この一手で、揺れの大半は実害を失います。
1. 形を決める ── 項目・並び・選択肢を指定する。自由に書かせない。
2. 機械で検査する ── 形が崩れていたら受け取らない。数値は桁を確かめる。
3. 記録して比べる ── 同じ質問を定期的に流し、答えのずれを測る。
三つめが抜けている仕組みは、静かに悪くなっていきます。モデルを入れ替えた日から精度が落ちていても、誰も気づきません。測り方は第6章 評価にまとめました。
見積書の文面、請求の但し書き、規程の引用。こうしたものは、二度目に少し違う文章が出てきては困ります。ここでの答えは、設定をいじることではありません。一度できたものを保存して、次からは使い回すことです。
同じ条件なら、AIを呼ばずに前の結果を返す。条件が変わったときだけ作り直す。こうすると、揺れも費用も同時に減ります。毎回作り直しているぶんだけ、揺れる機会を自分で増やしていることになります。
使い回す ── 定型の文面、規程の引用、よくある質問への答え。
作り直す ── お客様ごとの事情が入るもの、日付や数量で中身が変わるもの。
すべてを固めればよい、という話ではありません。案を出させる仕事では、毎回同じ答えが返るほうが困ります。三案ほしいときに同じ案が三つ並んでも、選ぶ意味がありません。
分け方はひとつです。正解が一つに決まる仕事は固め、決まらない仕事は揺らす。この線は、第7章 人が決めることで書いた線引きとほぼ重なります。
当社は、重要な提案を一つのAIに任せません。案を出す役と、穴を探す役を別のモデルに分け、主と予備で 6経路 を用意しています。一つのモデルの機嫌に結果が左右されないためです。
そのうえで、自分の判断で書き込める権限を持つのは 85体のうち17体 だけです。残りは試運転か、範囲を限った書き込みに留めています。数え方は「AIの中身」に開いています。
次の記事は、この章でいちばんご相談の多い話です。もっともらしい嘘を、何から手をつけて減らすか。
章と記事の全体は図書館の見取り図で一枚にまとめています。