できることを数えるより、やらせないことを数えるほうが早いというのが、実際にやってみた感想です。できることは日々増えますが、任せない仕事はあまり変わりません。
ご相談の場でも、まずこの一覧をお見せします。「ここは人が決めます」と先に言えると、残りの話が進みます。
この一覧は、社内向けの安心材料でもあります。任せない範囲がはっきりしていると、任せる範囲は思い切って任せられます。線が曖昧なままだと、どちらも中途半端になります。
「AIには無理だから人がやる」という引き方は、長続きしません。性能は上がりますから、そのたびに線を引き直すことになります。
当社が使っている基準は一つです。間違えたとき、取り消せるかどうか。取り消せるものは自動にしてよく、取り消せないものは人が決めます。この基準なら、性能が上がっても線は動きません。
取り消せる ── 下書きの作成、社内の記録、集計、分類、通知の候補づくり。間違えても書き直せます。
取り消せない ── 送信、支払い、公開、削除、契約に関わるもの。出たあとでは戻りません。
はっきりさせておきます。お金の支払い、契約に関わること、お客様への最初のご連絡、対外的な公開、そして消すこと。この五つは、AIの判断だけでは動きません。
どれも「できない」のではありません。技術としては可能です。それでも、決める場面として人に残すと決めています。
五つに共通しているのは、間違えたときに相手がいることです。社内で完結する仕事なら、書き直せば済みます。外に出たものは、こちらの都合では戻せません。
全部を同じ厳しさで扱うと、確認が多すぎて回りません。影響の小さいものは軽く、大きいものは重く。国内で示されている指針でも、リスクの大きさに応じて手当てを変える考え方が基本になっています。
国内の考え方は次にまとまっています。経済産業省・総務省「AI事業者ガイドライン」↗
この線引きをすると、人の仕事は減ります。ただし無くなりはしません。残るのは決める場面です。集める、整える、下書きするところまでは自動で進み、出すかどうかだけを人が押します。
当社の言い方では、決めることだけが人を通り、ほかは自動で流れます。これは効率のためだけではなく、あとで説明できる形を保つためでもあります（C-07-3 間違えたとき、誰が答えるか）。
ご相談の入口でも、この点は必ず確認されます。「全部AIが決めてしまうのですか」というご質問に、最初に答えられる形にしています。
方針を書いた文書だけでは守られません。急いでいるときに、人は例外を作ります。ですから、渡す道具の側で守ります。送信する道具を渡さなければ、送信は起きません（B-04-1 何を渡し、何を渡さないか）。
指示文でお願いする形にしないのも同じ理由です。指示文は揺れますが、渡していない道具は揺れません。
例外を作るときも、その場で緩めずに、道具の側を作り直します。手順を一度でも回り道させると、そちらが通常になります。
渡していない道具は、そもそも一覧に出しません。選べないものは、選ばれません。禁止するより、無いほうが確実です。
稼働している 85体 のうち、自分の判断で書き込めるのは 17体 です。残りは読んで記録する係で、書き込む必要がありません。試運転 32体、範囲を限って書けるものが 36体。信頼は最初から渡さず、実績で上げています。内訳は「AIの中身」に開いています。
線が引けたら、次は止める場所です。承認を手前に置くか、後ろに置くかで、詰まり方が変わります。
章と記事の全体は図書館の見取り図で一枚にまとめています。