Summary

  • 新しいタイプのセキュリティー攻撃により、管制センターを高度化する必要性が増加
  • NPU基盤のAIセキュリティーアシスタントを搭載したAiRアプライアンスを開発
  • ATOM NPUでGPU以上の性能を実現しながらも、サービス運用に必要な電力を50％削減
  • ハードウェアの導入費用と設置スペース、電力など長期的な運用費用を含めたTCO削減効果を確認

Challenge

現代のセキュリティ・オペレーションセンター（Security Operation Center、SOC）は３つの課題を同時に解決しなければならないトリレンマ（Trilemma）に直面しています。新しいタイプの攻撃を理解するためには、脅威インテリジェンス（Threat Intelligence ）を高め、生成AIを使いこなすツールやデータ流出を防ぐためのセキュリティー対策が欠かせません。さらには、費用対効果を考慮しながらSOCを運用する必要があります。

韓国を代表するAIセキュリティ企業であるIGLOO Corporation、顧客のSOCが置かれている状況を解決するために、生成AI技術を取り入れたセキュリティーアシスタントの AiR(AI Road)を企画しました。ソリューションを開発するにあたって、最優先に考慮したのはデータセキュリティーでした。特に、主要顧客は内部ログなど機微データの流出を懸念していました。そのため、外部とデータをやり取りするクラウドサービスの代わりに、安全性が高いオンプレミス環境のソリューションが必要でした。さらに、適切なリソース配分により同環境でのLLM推論をリアルタイムに実行し、GPU由来の高い電力消費とコストの課題も解決する必要がありました。

Solution

IGLOO Corporationが開発したAiRは、AIを基に攻撃を判断したり、判断の根拠を示してくれます。そのうえ、予測に基づく分析まで生成するセキュリティーアシスタントサービスです。 IGLOO AI分類モデルによる攻撃有無の判断は、より正確かつ迅速に判断できるうえ、LLMを介して出される結論に対する説明と、これを分析した回答は、ユーザーがセキュリティーの複雑な仕組みを理解しなくても、最善の判断ができるように手助けします。同社は、AiRのデプロイにあたって、安全なオンプレミス環境や、LLM開発環境、電力効率をすべて考慮しました。したがって、RebellionsのNPUとSDKは、まさにAiRアプライアンスの開発と運用にピッタリな最高の選択でした。

IGLOO Corporation は、RebellionsのNPU環境でIGLOO AIをアプライアンスの形で構築することで、セキュリティーへの基準を満たしました。また、さまざまなAI分類モデルとLLMモデルに対応するRebellions SDKを通じて、IGLOO AIに必要な分類AI、説明可能AI、生成AIいずれも、従来のGPU環境からNPUオンプレミス環境へと簡単に移行することができました。さらに、GPUと比較して低い電力消費で高い処理能力を発揮しています。

Result

RebellionsのNPUは、 IGLOO Corporation に期待以上の成果をもたらしました。AiRアプライアンスのプロトタイプをテストした結果、RebellionsのNPUは、既存のGPGPUに比べて1秒当たりの高いトークン処理数（TPS）を記録しました。推論速度が速いうえ、エネルギー効率面でより有利であることが証明されました。

IGLOO Corporation は、生成AIベースのセキュリティーアプライアンスの開発に成功し、顧客に新たな価値を提供できるようになりました。特に、NPUサーバーとの統合により生成AI技術の精度を高め、セキュリティー環境の安全性を強化することで、TCOを大幅に削減できました。さらに、大型サーバーやセキュリティー装置がなくても、アプライアンスで簡単に追加でき、AIベースのSOC運用へのハードルを大きく下げました。

「RebellionsのNPUを活用して、高効率と高性能を両方備えたAIセキュリティーアプライアンスの開発にさらに拍車をかけることができました。Rebellionsとの協業を通じて、セキュリティー組織がより多くのサイバー脅威を検知し、対応する力を強化できるように今後も支援していきます。」－IGLOO Corporation のAI研究室長

Appendix：NPUの活用ガイド

今すぐ始める
: 事前に訓練されたモデルを準備→RBLNコンパイラを利用したモデルのコンパイル→コンパイルしたモデルのロードおよび推論