NTTインテグレーション、IBM Spyreの実機でAI推論・RAGを検証するサービスを開始

NTTインテグレーションは10月30日にAIアクセラレーターIBM Spyreを活用した検証サービス「Spyreトライアルサービス」の提供を開始した。実機環境を用いて、AI推論の応答性やRAGの活用が業務に適合するかを本番導入前に検証する。検証は横浜データセンターに設置されたトライアル環境を通じて行われる。利用企業はインターネットまたは閉域網で接続し、事前に定めた検証シナリオと評価基準に沿って評価する。本文書や運用手順書といった文書の検索・ナレッジ検索、問い合わせ対応支援などを検証対象とする。

検証対象は社内規程や設計資料などの文書・ナレッジ検索、問い合わせ履歴・FAQを用いた問い合わせ対応支援などで、想定するユーザー数やデータ量、業務シナリオに応じた応答性能と運用性も評価可能だという。NTTインテグレーションは検証基盤の監視・障害時の対応・保守・接続環境の管理・環境初期化を担う。IBM iやAIXの業務データとの連携を想定した検証にも対応する。

本番導入時にはデータ連携方式やセキュリティ対策、基盤構成、運用方法を提案。データを外部へ移動させず、データに近い場所でAIを活用する「Bring AI to the Data」の考え方に基づき、利用企業のポリシーや運用要件に応じた環境設計・構築を支援する。

利用企業はIBM Spyreを含むAI推論基盤を月額制で新たに購入することなく利用可能。検証基盤とネットワーク接続環境はNTTインテグレーションが用意する一方、企業側は業務シナリオ・評価基準・検証データ・接続端末を準備する。導入は検証を目的としており、商用・本番業務や継続的な処理には対応しない。