ひとつめは、渡した内容がAIの中身の改良に使われるか。ふたつめは、渡した内容がどこかに保存され、誰かが見られる状態になるか。前者が無くても、後者は起きます。
そもそも、質問に答える動作でAIが賢くなるわけではありません。賢くなるのは学習の工程だけで、答える工程とは別です（A-01-1 学ぶ時間と、使う時間）。「送った」ことと「学習に使われた」ことは、同じではありません。
1. 学習に使うか ── 使わない設定になっているか。既定はどちらか。
2. 保存するか、いつまでか ── 何日残るのか、消えるのか。
3. どこに置かれるか ── どの国のどの設備か。取引先との約束に関わります。
4. 誰が見られるか ── 提供元の担当者が読める仕組みになっていないか。
5. 消せるか ── 消してほしいと言えるか。手続きはどうなっているか。
一つめだけを確かめて安心してしまう例が多いところです。学習に使われないとしても、記録として一定期間残る作りは普通にあります。五点を分けて聞くと、話が早く進みます。
個人情報を含む内容を扱う場合は、法令上の確認事項があります。国の委員会からも、生成AIの利用について事業者向けの注意が出ています。
お客様の氏名・連絡先、取引先から受け取った資料、採用の応募書類、健康や家庭の事情。
これらは「便利だから」で渡す前に、社内の決めごとを先に作ります。
生成AIの利用にあたっての注意点が示されています。個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」↗
五点を尋ねると、たいていは「学習には使いません」というお返事をいただきます。それは正しいのですが、口頭のご説明と、契約書や利用条件に書いてあることは別です。取引先に説明を求められたときに出せるのは、書いてあるほうだけです。
ですから当社は、利用条件のどこに書かれているかまで確かめ、控えを残します。加えて、無償の枠と有償の枠で扱いが違う場合があります。試したときの条件と、本番で使う条件が同じかどうかは、必ず見ておくところです。
ここがRAGの利点です。社内の資料は自社側に保管したままで、質問のたびに関係する数か所だけを渡します。全部を預ける必要はありません。
渡す量が小さくなるので、確認すべき範囲も小さくなります。「二百ページの手引きを預けてよいか」ではなく「この三段落を渡してよいか」という判断になる。判断の単位が小さくなることが、そのまま安全につながります。
見落とされやすいのがこちらです。社内向けに作った仕組みでも、誰でも何でも聞ける状態にすると、給与の資料や人事の記録に手が届いてしまいます。探せる範囲を、聞く人によって変えるのが前提です。
当社は、この線引きを設計の最初に決めます。あとから足すと、抜けが残ります。
「入れたものを消せるか」は、入れる前に確かめる項目です。取引先から「うちの資料は外してほしい」と言われたときに、どの塊を消せばよいかが分かる形になっているか。出どころを貼っておくのは、探すためだけでなく、消すためでもあります（A-03-1 資料の切り分け）。
当社は自社の記憶 11,239件 を自社側の設備に置いています。答えさせるときも、渡すのは質問に近い数件だけです。何を渡し、何を渡さないかを自分で決められる形にしておくことを、設計の条件にしています。数え方は「AIの中身」に開いています。
ここまでで、AIは調べてから答えるようになりました。次の章は、その先です。AIが自分で道具を使い、手を動かしはじめます。
章と記事の全体は図書館の見取り図で一枚にまとめています。