「クラウド利用の限界」を突破する－手のひらサイズのオンプレミス生成AI「Sovereign GaiXer」をコンサルタントが徹底検証

機密情報を扱うケースでクラウドAIの利用を避けたい企業向けに、オンプレミス型の生成AIサービス「Sovereign GaiXer」が開発され、ハードウェアとソフトウェアを一体化した形で提供される点が説明されています。予算計画が立てやすく、トークン爆発の懸念がない点が最大の強みとして挙げられました。

フォーティエンスコンサルティングの3名が実機を用いて検証を行い、セットアップの容易さとローカルAI基盤としての完成度の高さが評価されました。特に電源投入後のネットワーク設定やVPNを含む導入手順の簡便さ、IT部門のリソースが限られる組織でも導入障壁が低いとコメントされています。

検証対象の機能は主にチャットとRAG活用で、機密データを外部へ出さずに処理できる点やGPU搭載による高速処理、クラウド型AIに比べ運用負荷が低い点が強調されました。製造業をはじめ、金融、小売、法務、人事、自治体などの現場での活用可能性が示唆されています。

自治体導入例として草加市でのチャット機能活用が進み、伊賀市の公開請求文書の機密情報の黒塗り処理といった課題解決にもつながるとされました。今後はSDKの公開といった拡張性の強化が期待され、クラウドとオンプレミスの使い分けを前提としたAI活用基盤の発展が描かれています。