Summary

  • お客様に合わせたAI献立管理サービスを安定的に運用するためのインフラが必要
  • NPU基盤のクラウドサービスでSuperb AIの物体認識モデルを構築
  • Rebellions SDKで簡単に事前に学習されたモデルを用い推論
  • サービスの品質を確保しつつTCO削減効果を確認：電力効率（FPS/W）を2倍改善、GPGPUと同じ精度を達成

Challenge

韓国のAIスタートアップであるSuperb AIは、数十万人の月間アクティブユーザー（MAU）を有する韓国のヘルスケア·プラットフォームと協業し、カスタマイズされた献立サービスを提供するAI機能を開発しました。Superb AIはコンピュータービジョンのAI技術で、ユーザーがスマートフォンで撮った食べ物の写真から食品の種類を認識し、栄養成分を分析する「食品認識AI」を開発しました。このように実現したAI技術を商用化するには、コンピュータービジョンの高い精度やサービスの経済性を同時に満たす必要がありました。

特に、「食品認識AI」は、精度が高くなければなりません。同じ料理でも、調理法や盛り方によって見た目が大きく変わるうえ、似たような料理もたくさんあるからです。さらに、韓国料理の場合、複数のおかずが同時に出てきますので、食品の認識範囲を広く精密に設定する必要があります。

AI献立管理サービスは、多数のユーザーを対象にリアルタイムでサービスを提供しなければなりません。そのため、大勢の人が同時にアクセスしても、安定的に処理できる能力や、拡張に対応できるようにクラウド基盤のインフラ構成が欠かせません。クラウドインフラは、食品データをリアルタイムで処理して効果的に運営できる一方、リクエストが増えるほどコストがかかります。したがって、構成を的確に設計することで、精度と経済性を同時に確保することが重要です。

Solution

Superb AIは、新しい食品カテゴリーを追加しやすくする柔軟なモデルを構築し、持続的な学習を通じて性能を改善しています。さらに、一度に大量アクセスが集中しても、推論性能を安定的に維持することを中長期目標に掲げています。 Superb AIは「食品認識AI」の高度化ロードマップの実現に向け、性能と費用をすべて考慮したうえで、Rebellions NPU基盤のクラウドサービスを選びました。Rebellions NPUを基にしたクラウドインフラは、GPUと同じレベルの性能を維持しながらも、電力消費は少なくて済む高い電力効率を誇ります。このため、クラウド·アーキテクチャでモデルの最適化およびサービスの拡張が可能になりました。

また、RebellionsのソフトウェアスタックであるRebellions SDKは、TensorflowやPyTorch、HuggingFaceなどで学習したディープラーニングモデルに対応することで、Superb AIがAIモデルを開発し、インフラに短時間でデプロイできるようにしました。Superb AIは大規模データで学習した食品物体認識モデルをRebellions SDKを利用して、次のように簡単に適用および展開できました。

Result

Superb AIとヘルスケア・プラットフォーム企業は、Rebellionsとの協業を通じて、NPUクラウドインフラのメリットを生かし、以下の成果を上げることができました。まず、目標としたモデルの精度(F1-Score 0.87 / 基準0.7)は、性能が落ちずにそのまま維持され、連続負荷テストでも安定的に運用できることが検証されました。消費電力当たりの性能を示す電力効率(FPS/W)は、GPU基盤のクラウドサービス比で最大2倍であり、ユーザーの体感速度に直結するレイテンシも改善されました。

このNPU基盤のクラウドインフラの導入事例は、サービス運用に必要なコストを効果的に削減できることを改めて示しました。AI献立管理のようなリアルタイムサービスを、安定した性能と合理的な運用コストで提供できます。さらに、経済的な方法でサービスの機能拡大やユーザー数の増加に伴う負荷にも耐えられることが確認されました。

Appendix：NPUの活用ガイド

今すぐ始める
: 事前に訓練されたモデルを準備→RBLNコンパイラを利用したモデルのコンパイル→コンパイルしたモデルのロードおよび推論