レート制限と容量
許可リソースに負荷を配分し、上限時は方針に従い待機、切替、明示的なエラーを返します。
タイムアウトと再試行
時間と再試行回数に上限を設け、費用や負荷の増大を防ぎます。
モデル間フォールバック
出力、文脈、ツールの互換性を確認し、API が使えるだけで置き換えません。
開始済みのタスク
出力や操作が始まっている場合、復旧と重複実行のリスクを明確にし、無条件の切替を前提にしません。
企業のための設計
01
タスクに適合
抽出・分類には軽量モデル、複雑な推論には高性能モデルを使います。
02
制約を遵守
データ範囲、許可モデル、品質、予算で選択を制限します。
03
継続性を維持
承認範囲内でタイムアウト、制限、リソース障害に対応します。
01 / 難易度に応じてモデルを選択
タスク要件を、実行可能な選択ルールに。
03 / 方針の例
入力から結果まで、選択の理由を追う。
3 つの静的な例で判断方法を示します。実際の顧客導入事例ではありません。
単純な情報抽出
注文項目の抽出 → 単純に分類 → 軽量モデル候補 → 項目の完全性を確認。
複雑な契約分析
複数文書の照合 → 複雑に分類 → 高性能モデル候補 → 根拠確認と人の審査。
機密資料の処理
機密性の制約 → 自社モデルのみ → 難易度で選択 → 能力不足なら人に引き継ぐか制限を通知。
不確実性とエスカレーション
判定が曖昧、または結果が基準未達なら、承認方針に従い上位モデルや人に切り替えます。
04 / 品質・成果のフィードバック
リソースの状態と成果から方針を調整。
リソース検査は性能を、業務評価は完了の可否を示します。両方の根拠を改善に活用します。
Route Trust
可用性、能力、版の差分で採用条件と候補を更新します。
Agent Eval
品質、成功率、費用からタスクとモデルの対応を調整します。
方針の公開
版を記録し、試験や限定展開で検証してから広げます。
異常時の復旧
品質低下や非互換があれば戻し、変更理由を保持します。
05 / 稼働状況と次の一歩
すべてのモデル選択に、説明できる記録を。
経路、適用規則、結果を確認し、現業務に合うルーティングを定めます。
記録項目
要求 ID、種類・難易度、適用規則、選択モデル、切替理由、状態。
稼働指標
遅延、エラー、消費、切替を記録し、データがある場合のみ成果と結びます。
相談前の準備
モデル一覧、業務種類、遅延・品質要件、維持すべきプロトコルをご用意ください。