日本企業のAIエージェント活用はPoCから本番へ移行する課題が指摘され、データ統制が重要視されている。AI推進法の全面施行とAI基本計画の改定が、データの取り扱いと説明責任を企業に求める。
AIを活用する日本企業では、全面施行されたAI推進法と内閣府の指針を背景に、企業が積極的な活用とリスク対応を自ら設計・開示することが期待されている。これらの制度は、企業価値や競争優位性につながる説明を求める姿勢を示している。
本連載はAIエージェント活用の統制をテーマとしており、エージェントが意思決定を任せる際の「 control（統制）」の重要性を取り上げる。エージェントの安全性を確保するためには、何を安全とするかを自ら定義し説明することが不可欠とされている。
エージェントは顧客問い合わせ対応で、LLMを用いて意図を読み取り、顧客管理システムの履歴を参照し、社内システムで配送状況を確認したうえで回答を作成するプロセスを、人の介在なしに進めるケースが想定される。これに対する権限の根拠と後からの検証可能性が問われる。
シンガポールと韓国の共同研究では、エージェントによるデータ漏洩リスクが示され、悪意のないタスクでも安全に実行できない場面が複数報告された。不要情報へのアクセスや不適切な情報開示の問題も指摘された。
2026年に改定された人工知能基本計画は、AIが意思決定・実行の主体へ進化するとの認識のもと、制度的対応に加え技術的・組織的対応を強化するよう促している。