コストとガバナンスをどう管理する? 企業向けAI統合管理の最新動向

アカマイ・テクノロジーズが開催したメディアブリーフィングでは、AI利用の急増に伴うトークンコストとガバナンスの課題が取り上げられ、グローバル企業の対応として制限を設けるか仕組みで解決するかの二択が説明された。

グローバル企業の事例として、Uber Technologiesは短期間で年間AI予算を消費し、1人あたり月額1500ドルの上限を設定したこと、Microsoftは1人あたり月額28000ドルの消費例がありデフォルトモデルを安価なものへ切り替えたことが示された。

一方、日本企業には日本語の特性でトークン数が増えやすい点があり、AIコストが従来の定額制から従量課金制へ移行していることが指摘された。今後もコスト増が予想されるとされた。

森祐孝氏は、モデル単価は3年で約1000分の1へ低下する一方、利用料は12カ月で10倍になるとの調査を挙げ、総コストは膨らみ続ける見通しと述べた。エージェント利用により状況の見える化が難しくなる点も指摘された。