日本企業のAI推論プラットフォーム市場は、生成AIの普及とともに企業内の本番運用へ移行する動きが強まり、エッジ推論や国内AIインフラ投資が新たな成長機会を生み出している。
日本のAI推論プラットフォーム市場は、学習を目的とした学習プラットフォームとは異なり、運用段階でのモデル導入・監視・インフラ統合を支援する製品群を指す。市場は企業が業務運用へAIを組み込む際のリアルタイムデータ処理や予測生成といった機能を必要としている。
成長要因として、生成AIアプリケーションの拡大、国内クラウド・プライベートAI環境の需要、産業オートメーション・スマート製造、低遅延のエッジAI、推論コスト最適化の重要性が挙げられる。通信・クラウドインフラ投資も市場機会を後押しする要素となっている。
市場セグメントは導入モデル(パブリッククラウド、プライベートクラウド/オンプレミス、ハイブリッド、エッジ推論)やプラットフォームタイプ、技術別、企業規模・業界別に分かれ、東京・関東や大阪・関西、愛知・中部、北海道・九州など地域分析も提供されている。主要企業にはNTTデータ、富士通、NEC、ソフトバンク、さくらインターネット、Preferred Networks、Microsoft、Amazon Web Services、Google Cloud、NVIDIA、AMD、Intelなどが挙げられる。
将来展望として、本番環境でのAI導入の本格化が進む中、ハイブリッド推論・国内AIインフラ・エッジコンピューティング・小規模言語モデル・業界特化型アプリケーションが競争の焦点になるとされ、日本企業と海外ベンダーの協調・統合能力がビジネス機会を左右すると予測されている。