要求からの漏えい
機密資料や認証情報が文脈と共に外部へ送られます。
経路のリスク
処理点が内容にアクセス・変更し得るため、経路と出所を明確にします。
応答による誘導
応答が業務目的に反するコマンドや引数へ誘導する可能性があります。
権限を超えた実行
エージェントがタスク権限を超える操作を求める場合があります。
ソリューション /企業の安全な AI 活用
AI のデータアクセスと操作を、企業ルールに沿わせる。
要求と実行の経路に検査点を設け、既存アプリやエージェントを段階的に取り込みます。
企業のための設計
01
情報を保護
アクセス・送信できる範囲を制御します。
02
操作を制限
ツール呼び出しを権限と承認の範囲に収めます。
03
根拠を保持
イベントを ID、タスク、判断結果に結びます。
01 / 4 種類のリスク
データと操作の経路からリスクを捉える。
リスクを具体的な段階に分け、接続すべきシステムと責任者を決めます。
03 / ソリューション構成
接続、安全、信頼性検査を役割別に組み合わせる。
Route Fence に加え、ID に基づく接続、リソース検査、管理された手順を組み合わせます。
Route Fence
データ検査、モデルアクセス、ツール実行の方針。
API Platform
モデル窓口、アプリ ID、アクセス権限の統一。
Route Trust
リソースの性能と異常兆候の検査根拠。
X Worker
デジタルワーカーの業務を組み、連携範囲内で制御された手順を実行します。
04 / データと権限の境界
配置、認証情報、ログの扱いを明文化。
接続方法ごとに、データ処理者、認証情報のアクセス者、ログ内容を定めます。
企業側での処理
社内・VPC のゲートウェイと外部管理サービスの役割を定めます。
認証情報の管理
キーの保存、使用、アクセス、更新の場所を確認します。
実行側の連携
制御可能なツールと未接続経路を列挙し、対象範囲の誤解を防ぎます。
ログと承認
必要なメタデータ、マスク済み内容、承認記録を保持します。
05 / 対応と次の一歩
発見後の対応にも、追跡可能性を。
未許可操作を遮断または審査に回し、責任者へ通知。根拠を結び、規則と範囲を見直します。
検知と対応
実行側で規則に照合し、拒否や承認待ちの状態を記録します。
追跡
タスク、ID、引数、方針の版を関連付けます。
改訂
責任者の確認後に規則を更新し、試験範囲で再検証します。
評価の準備
モデル窓口、エージェント、ツール、機密分類から対象を先に定めます。