AI業務に人間承認ゲートが必要な理由
「人が最後に確認する」と決めても、確認前にAIが送信できるなら、承認を待つ仕組みにはなっていません。何を実行する前に、誰が、どの資料を見て承認するかを決める必要があります。
調査、整理、下書き、内部レビューはAIが進めます。個別に承認する操作と、事前に許可した条件内で自動実行する操作を分け、許可されていない外部作用を実行側で止めます。
01
人が決めるのは、実行のたびの確認だけではない
定型業務では、毎回の操作を人が承認するよりも、対象、上限、期限、停止条件を先に承認し、その範囲内で自動処理する設計が適する場合があります。承認の単位は業務の影響と取り消し可能性に合わせて決めます。
自動実行にも、誰が何を許可したかという根拠が必要です。AIが新しい操作を提案できても、その提案で許可範囲が広がることはありません。条件を超える操作、条件変更、状態不明は停止または再承認へ戻します。
- 個別の承認
- 公開文面や契約など、内容ごとに人の判断が必要な操作。対象と版を固定して承認します。
- 条件への事前承認
- 定型処理の対象・金額・回数・期限などを先に定め、その範囲を実行時にも検証します。
02
「人が見ている」と「人が止められる」は違う
進行画面を眺めたり、完了通知を受け取ったりするだけでは、承認ゲートにはなりません。AIがすでにメールを送り、記事を公開した後では、人は結果を確認しているだけです。
ゲートとは、有効な承認がない限り次の状態へ遷移できない仕組みです。個別の承認でも、条件への事前承認でも、実行側で記録を検証し、未承認・期限切れ・対象不一致なら処理を拒否します。
- 内部作業
- 情報収集、要約、下書き、内部レビュー。失敗しても社外へ直接影響しない範囲。
- 外部作用
- 公開、送信、決済、顧客データ更新。組織の意思として扱われる操作。
03
承認画面に、対象と変更内容をそろえる
承認者に「よろしいですか」とだけ聞いても、何を許可するのか分かりません。対象、変更内容、根拠、機械レビューの結果を同じ画面に提示します。別の資料を探さなくても判断できるように、未確認事項や取り消し方法も載せます。
承認時に提示する項目
- 実行対象と宛先
- 現在値と変更後の差分
- 判断に使った出典と未確認事項
- レビュー結果と未解消の警告
- 発生し得る費用と公開範囲
- 取り消し方法と問題発生時の連絡先
