マクニカとフィックスターズがTenstorrent製AI基盤の導入・運用を一貫支援する体制を構築。実機評価を含む検証から性能最適化、導入後の運用までを共同で実施する。八基のWormhole搭載TT-QuietBoxを用いた共同PoCの成果も公表された。
マクニカとフィックスターズは、Tenstorrent製AI製品の導入を検討する国内企業を対象に、AIモデルの実機評価から性能最適化、AIインフラの構築、導入および運用までを一貫して支援する体制を構築すると発表した。これにより、顧客は導入前の検証と導入後の運用を連携して進められるようになる。
共同PoCではTenstorrentのWormholeチップを8基搭載し、合計96GBのGDDR6メモリを搭載したAIワークステーション「TT-QuietBox」を用いて、OpenAIのオープンウェイト大規模言語モデル「gpt-oss-120b」を動作させ、推論処理の性能を解析した。マクニカが実機評価環境と支援を提供し、フィックスターズが処理状況の分析とソフトウェア実装の改善を担当した。
PoCの結果、デコード処理のボトルネックとなっていたMoEのexpert行列積を3.68倍高速化。TPOTは144.85msから99.49msへ31.3%短縮され、1ユーザーあたりのデコード速度は6.9トークン/秒から10.05トークン/秒へ向上。全リクエストの平均応答時間も25.0秒から19.3秒へ短縮した。
両社は今後も、gpt-oss-120b以外のAIモデルやワークロードにも適用を広げ、導入前の検証から性能最適化、インフラ構築、運用までを支援する方針。Tenstorrentとの技術連携も必要に応じて行い、国内企業のAI活用拡大につなげるとしている。