OpenAIの判断特化API Decisions APIが10月22日に一般提供を開始。先行導入企業からの評価が伝えられ、同時にNVIDIAが追加学習不要の予測AI基盤モデル「Kumo Relational」を発表したことが伝えられている。
OpenAIはAIアプリの分類やルーティングといった小さな判断処理に特化したDecisions APIの一般提供を開始した。基盤は「GPT-6 Luna」を採用し、従来より最大10倍の高速化を謳う。料金は入力100万トークンあたり0.10ドルで、出力トークンには課金されない。回答形式はpredicate、choice、scoreの3種で、1リクエストあたり最大400問を処理できる。画像やJSON入力にも対応し、GPT-Liveと連携可能だ。
先行導入企業のBoxやDatadogなどからは「応答時間が40倍速くなった」「コストが90％削減された」といった声が上がっている。またブラウザ上で試せるDecisions Playgroundも公開されている。