まず、よく似た二つの言葉を整理しておきます。
生成AIとは、文章・画像・音声など、新しいものを「つくる」AIの総称です。分類したり予測したりするだけのAIと区別するための呼び方です。
LLM（大規模言語モデル）は、そのうち言葉を扱うものを指します。ChatGPT、Gemini、Claude。名前は違っても、中身の考え方はほぼ同じです。膨大な量の文章を読んで学習した、非常に大きな機械学習のかたまりです。
この連載でこれから出てくる「AI」は、ほとんどがこのLLMのことだと思ってください。
LLMがやっていることは、驚くほど単純です。与えられた文の続きとして、次にきそうな言葉を確率で選ぶ。ただそれだけを、延々と繰り返しています。
「今日はいい」と入力されたら、次は「天気」が来やすい。「天気」を出したら、今度は「ですね」が来やすい。この繰り返しが、文章になります。
AIが言葉を扱うときの最小の単位。単語よりやや細かく、日本語ではおおよそ1〜2文字ぶんに当たります。AIの利用料が「トークン単位」で計算されるのは、この単位で処理しているからです。
ここで一番大切なことを書きます。AIは、正しいことを選んでいるのではなく、それらしいことを選んでいます。文中に事実を確かめる工程は、どこにも含まれていません。この一点を知っているかどうかで、AIの使い方は決定的に変わります。
AIに同じことを二度聞くと、少しずつ違う答えが返ってきます。壊れているわけではありません。次の言葉を確率で選んでいる以上、毎回まったく同じ語が並ぶほうが、むしろ不自然なのです。
この散らばり具合は、調整できます。小さくすれば、堅くて安定した答え。大きくすれば、意外性のある答え。事務処理には小さめ、企画の発想出しには大きめ、と使い分けます。
裏を返せば、AIの出力は再現しないということです。「昨日はうまくいったのに」は、日常的に起こります。大事な仕事ほど、出てきた答えをそのまま通すのではなく、記録を残して人間が確かめる前提で組み立てておきます。
AIへの指示文をプロンプトと呼びます。同じことを頼んでも、書き方によって結果の質がはっきり変わります。「続きを予測する装置」なのですから、前置きが変われば続きも変わるのは当然です。
コツは三つだけです。役割を与える（「あなたは経理担当です」）。前提を渡す（対象・目的・読み手）。出力の形を指定する（箇条書きで5点、など）。
逆にいちばん結果が悪くなるのは、「いい感じにまとめて」です。人に頼むときと同じで、曖昧な依頼には曖昧な答えが返ってきます。
AIが一度に読み書きできる量には、はっきりした上限があります。これをコンテキストウィンドウ（文脈の窓）と呼びます。会話が長くなると、古いほうから窓の外へこぼれていきます。
「さっき言ったことを忘れている」と感じるのは、多くの場合これが原因です。第1章で書いたとおり、AIは会話中に新しく記憶することができません。窓の中に見えているものが、AIにとっての世界のすべてです。
だから実務では、必要な情報を、そのつど窓の中に入れてやるという考え方をします。この発想が、次の章の主題であるRAGにそのまま繋がります。
AIが、実在しない資料や条文、ありもしない数字を、堂々と書いてしまうことがあります。これをハルシネーション（幻覚）と呼びます。
なぜ起きるのか。ここまで読んだ方には、もう分かるはずです。AIは「それらしい続き」を選んでいるだけだからです。存在しない資料名も、文章としてはいかにも自然に見える。だから、平然と出てきます。嘘をついている自覚が、そもそもありません。
厄介なのは、間違いが自信のなさそうな顔をしていないことです。人間なら口ごもる場面でも、AIの文章は同じ調子のまま滑らかに続きます。だから、文体で信用してはいけません。
対策は大きく二つ。ひとつは、AIに手元の資料を読ませてから答えさせること（第3章）。もうひとつは、別のAIに検算・反証させること（第5章）。そして最後に人間が確認する。この三段構えで、実務に耐えるようになります。
次の章では、この幻覚を減らすいちばん実用的な方法──AIに社内の資料を読ませてから答えさせる「RAG」を扱います。
A-02-1 トークンと文脈の窓 ── 長い資料を渡すと、なぜ後半が抜けるのか。
A-02-2 同じ質問なのに、答えが変わる ── 揺れを止める場所と、残しておく場所。
A-02-3 嘘を減らす順番 ── 一番効く手から順に。追加学習は最後です。
YOHAKU OS では、どのモデルにどの役割を任せているかも公開しています。「AIの中身」のページをご覧ください。