エージェントに道具を持たせるとき、こちらが渡すのは道具の一覧です。名前、何をするものかの説明、必要な情報の形。AIはこの一覧を見て、どれを、どの値で呼ぶかを選びます。呼び出しの形は決められていて、それ以外の動き方はできません。
ですから「勝手に社内のどこかを触る」ことは起きません。触れるのは、一覧に載っているものだけです。逆に言えば、一覧に何を載せたかが、そのまま権限の設計になります。
AIが道具を使う仕組みです。AIが実行するのではなく、「この道具を、この値で呼びたい」と申し出るだけ。実際に動かすのは、こちら側で書いた仕組みです。
申し出を受けてから動かす形なので、間に検査を挟めます。ここが歯止めを置ける場所です。
仕組みの解説は Google の資料が簡潔です。Google Cloud「関数呼び出しの概要」↗
道具の説明が曖昧だと、想定していない場面で呼ばれます。「顧客情報を取得する」と書けば、AIは必要だと思ったときに呼びます。「指定した一件の連絡先だけを返す」と書けば、それ以上のことはできません。
説明文は、AIへの案内でありながら、同時に許可証です。当社では道具を足すときに、まずこの一文を書き直すところから始めます。
取り違えの例を一つ。「請求書を送る」という名前にしていた道具が、下書きを作るだけの場面でも呼ばれました。「請求書の下書きを作る（送信はしません）」に書き換えたら止まりました。やらないことまで書いてあると、迷いが減ります。
いきなり書き込ませないことです。当社は三段階に分けています。試運転（読むだけ、書くつもりの内容は記録する）、制限書込（決めた範囲だけ書ける）、自律（自分の判断で書ける）。順に上げていきます。
実測では、稼働している 85体 のうち試運転が 32体、制限書込が 36体、そして自分の判断で書き込めるのは 17体 だけです。信頼は最初から渡すものではなく、実績で上がるものとして扱っています。
「登録する」道具を渡すとき、そのままでは何件でも登録できてしまいます。ですから道具の側で縛ります。一度に扱える件数、触れる置き場所、金額の上限。AIに我慢させるのではなく、道具のほうを狭くします。
指示文でお願いする形にしないのが大切です。指示文は揺れます（A-02-2 同じ質問なのに、答えが変わる）。道具の形で縛れば、揺れても越えられません。
当社が渡していないものは、はっきりしています。お客様への最初のご連絡、お金の支払い、消すこと、対外的な公開。共通しているのは取り消せないことです。
ここは能力の問題ではありません。できるかどうかとは別に、決める場面として人に残しておく線です（第7章 人が決めること）。
ご相談の場でも、まず渡さないものの一覧から確認します。できることを数えるより、こちらのほうが早く決まります。
1. これは読むだけですか。書き込みますか。
2. 間違えたとき、取り消せますか。
3. 一度にどこまで動けますか。上限は付いていますか。
4. 誰かの目に、外から見える形で残りますか。
似た道具を並べると取り違えます。「顧客を探す」と「取引先を探す」が両方あると、AIはどちらを呼ぶか迷い、間違えたまま進みます。三つで足りるなら三つにしておくほうが、実際の精度は上がります。
使われていない道具は外します。一覧が長くなるほど、選ぶ精度が落ちるためです。
85体 が役割別に動いていますが、書き込みの権限を持つのは 17体 です。残りは読んで記録する係で、書く必要がありません。数え方は「AIの中身」に開いています。
道具を絞っても、動き続けるかどうかは別の話です。次は、止め方の設計を見ていきます。
章と記事の全体は図書館の見取り図で一枚にまとめています。