英国規格協会BSIが公表した調査で、日本企業の74%が過去1年にAIの不具合を経験しており、体制面の整備状況や不具合の影響が指摘された。エージェント型AIの不具合は市場収益の最大3.6%のリスクと推計される。
BSIが実施した調査によると、日本を含む9カ国のビジネスリーダー1,287人を対象に、AIの不具合の経験状況と影響を評価した。日本企業では74%が過去1年に不具合を経験し、複数回発生したとの回答が91%に達した。
不具合の影響として、安全性への影響38%、規制・コンプライアンス上の問題35%、セキュリティ侵害31%、業務時間の浪費30%が挙げられ、財務損失を報告した企業は14%だった。AI incidentを管理するプロセスを整備している企業は41%にとどまる。
経済モデル分析では、AIの不具合によって年間で市場収益の最大3.6%がリスクにさらされると推計され、種類別ではエージェント型AIが最大3.6%、ハルシネーション等が2.5%、偏見を伴う意思決定が0.3%、顧客対応チャットボットが0.1%と示された。
日本企業のエージェント型AIの本格運用は13%で、セキュリティを懸念する企業が63%、AIガバナンスの欠如が42%、規制の未整備が30%だった。73%はAI投資の増加を見込んでいる。
AIガバナンスプログラムを整備している企業は40%、規格に準拠した安全なAI利用方針が適切に実施できている企業は35%、データやアルゴリズムの透明性を確保している企業は34%にとどまる。
BSIグループジャパンはISO/IEC 42001に基づくガイダンスや認証で企業を支援するとしている。