メインコンテンツへスキップ
VEGA開発からの知見
前提の監視と出口設計

判断した後も、その理由が続いているかを監視する

開始時には合理的だった判断でも、後に条件が変わることがあります。何を期待して始めたか、何が変わったら撤回するかを記録していなければ、続けてよいかを毎回考え直すことになります。

VEGAの出口設計で扱ってきたのは、値動きだけでは判断できない変化です。購入時の前提が崩れた場合と、資料が取れず確認できない場合を分け、見直す理由を記録します。

設計で決めておくこと

開始時に、撤回する条件、確認の期限、情報が取れない場合の扱いも決める。

01

採用時の理由を、後から推測し直さない

結果が悪くなってから、AIに「なぜ始めたのか」を説明させても、当時の理由を復元したことにはなりません。期待した変化、使用した根拠、その根拠が有効な期間、撤回する条件を開始時に記録します。

複数の理由がある場合は、主な理由と補助的な理由を分けます。どれか一つ崩れたら見直すのか、複数の条件が崩れたときに見直すのかも、先に決めます。

開始時に残す判断の前提

  • 何が起きると期待したか
  • その期待を支える資料と判断時点
  • 理由が成立する条件と、失効する条件
  • 期待する変化が起きる期限
  • 確認頻度と、情報が取れない場合の扱い

02

「前提は維持」「崩れた」「確認できない」を分ける

異常を見つけられなかったことが、前提の維持を意味するとは限りません。必要な資料を取得できない、対象を特定できない、情報が古い場合は、確認できない状態として扱います。

表は横にスクロールして確認できます。

前提の監視で区別する状態
状態意味対応の考え方
維持を確認必要な観測がそろい、維持条件を満たす許可された条件内で継続
失効を確認事前に定めた失効条件を満たす証拠がある設定済みの見直し手順へ
確認できない必要な観測が不足・矛盾している再取得や確認待ち。維持とは扱わない

03

悪い結果と、判断理由の失効を混同しない

短期の結果が悪くても、最初の理由が残っている場合があります。逆に数値が良く見えていても、理由を支えていた条件が崩れている場合があります。結果、理由、リスク上限を別の観測として扱います。

例えば架空の仕入先選定なら、価格の上昇、品質保証の失効、品質データの未取得は別の出来事です。それぞれに対応する見直し条件を定めると、場当たり的な継続や停止を減らせます。

04

監視で見つけた証拠を、変更権限へ直結させない

監視は、前提が崩れた根拠を示します。操作を実行するかは、利用者、対象、変更範囲、許可、重複の確認を通して決めます。監視の結論だけで、新しい権限を作らない設計にします。

通知には、起きたこと、対象への影響、対応状況、利用者の操作が必要かを載せます。内部の状態コードだけで通知を終えると、正しい検知があっても実務の対応につながりません。

暗黙知の構造化

熟練者の判断を、どうルールにするか

同じ指標でも、状況によって判断が変わる。その違いを具体的な事例から聞き取り、例外と撤回する条件を記録します。本人の言葉とAIの解釈を分け、別の事例で検証します。

読む →
因果推論と未来検証

経済の変化を予測するAIで、仮説をどう検証するか

需要が増えたとき、誰の売上になり、どこに利益が残るのか。供給制約や二次・三次の受益を追い、予測が正しかったかを途中の事象と事前の記録で確かめます。

読む →
AIワークフロー設計

fail-closedなAIワークフロー設計

出典が取れない、検証が終わらない、外部の処理結果が分からない。その状態で次へ進ませないために、停止条件、再試行の上限、再開に必要な確認を定めます。

読む →

自社の業務でAIを使うには

対象の業務と使えるデータを確認し、AIに任せる処理、人が判断する場面、停止後の対応を決めます。設計から実装、検証までご相談ください。