クラウデラのAIインフェレンスサービスは、NVIDIAのアクセラレーテッドコンピューティングとNVIDIA NIMマイクロサービスを使用することでLLMのパフォーマンスを36倍に高速化し、企業に優れたパフォーマンス、堅牢なセキュリティ、スケーラブルな柔軟性を提供する
統合された機能により、企業の差別化要因を1つのサービスに集約：クラウデラの信頼されるデータを基盤として、NVIDIAのアクセラレーテッドコンピューティングとNVIDIA AIエンタープライズソフトウェアプラットフォームにより、クラウデラ上で安全かつ高性能なAIアプリケーションをプライベートに展開する信頼されるAIを実現
カリフォルニア州サンタクララおよびニューヨーク発, Oct. 09, 2024 (GLOBE NEWSWIRE) -- データ、分析、AIのための唯一の真のハイブリッドプラットフォームであるクラウデラは本日、NVIDIA AIエンタープライズ (NVIDIA AI Enterprise) プラットフォームの一部であるNVIDIA NIMマイクロサービスを搭載したクラウデラAIインフェレンス (Cloudera AI Inference) を発表した。 組み込み型のNIMマイクロサービス機能を提供する業界初のAI推論サービスの一つであるクラウデラAIインフェレンスは、大規模なAIモデルの展開と管理を独自に能率化し、企業がデータの真の潜在能力を活用して生成AIをパイロット段階から本格的な運用へと進めることを可能にする。
デロイト (Deloitte) の最近のデータによると、企業が生成AIを採用する上で最大の障壁となっているのはコンプライアンスリスクとガバナンスに関する懸念であることが明らかになっているが、それでも生成AIの採用は急速に進んでおり、今年第3四半期には、企業の3分の2以上が生成AIの予算を増額している。 これらの懸念を軽減するには、オンプレミスかパブリッククラウドかに関わらず、企業はAIモデルとアプリケーションのプライベートな運用に切り替える必要がある。 このような移行では、複雑なDIYアプローチを回避する、安全でスケーラブルなソリューションが必要である。
クラウデラAIインフェレンスは、企業が自社で管理できる安全な開発と展開を提供することで、非プライベートなベンダーがホストするAIモデルサービスへの機密データの漏洩を防ぐ。 NVIDIAの技術を搭載したこのサービスは、信頼されるAIのための信頼されるデータ構築を高速で実現し、AI駆動型のチャットボット、バーチャルアシスタント、エージェント型アプリケーションの効率的な開発を可能にし、生産性と新規事業成長の両方に影響を与える。
クラウデラAIインフェレンスの発表は、同社とNVIDIAの提携に続くものであり、産業がデジタルトランスフォーメーションとAI統合の複雑な課題に取り組む中で、重要な局面で企業によるAIイノベーションを推進するというクラウデラの取り組みを強化するものである。
デベロッパーは、NVIDIAテンサーコアGPU (NVIDIA Tensor Core GPU) を使用することで、最大36倍の高速パフォーマンスでエンタープライズグレードのLLMを構築、カスタマイズ、展開でき、CPUと比較してほぼ4倍のスループットを実現できる。 シームレスなユーザーエクスペリエンスにより、UIとAPIがNVIDIA NIMマイクロサービスコンテナに直接統合され、コマンドラインインターフェイス (CLI) や個別の監視システムが不要になる。 クラウデラのAIモデルレジストリとのサービス統合により、モデルエンドポイントと操作の両方に対するアクセス制御を管理することで、セキュリティとガバナンスも強化される。 ユーザーは、LLM展開モデルでも従来のモデルでも、すべてのモデルが単一のサービスでシームレスに管理される統合プラットフォームのメリットを享受できる。
クラウデラAIインフェレンスのその他の主な機能には、以下のものがある。
- 高度なAI機能: NVIDIA NIMマイクロサービスを利用して、LLamaやミストラル (Mistral) などのオープンソースLLMを最適化し、自然言語処理 (NLP)、コンピュータビジョン、その他のAI領域における最先端の進歩を実現する。
- ハイブリッドクラウドとプライバシー： ワークロードをオンプレミスまたはクラウドで実行し、VPC展開によりセキュリティと規制のコンプライアンスを強化する。
- スケーラビリティとモニタリング： 自動スケーリング、高可用性 (HA)、リアルタイムのパフォーマンス追跡により、問題を検知して修正し、効率的なリソース管理を実現する。
- オープン API および CI/CD 統合: モデルの展開、管理、モニタリング用の規格準拠のAPIにアクセスし、CI/CDパイプラインおよびML運用ワークフローとのシームレスな統合を実現する。
- エンタープライズセキュリティ: サービスアカウント (Service Accounts)、アクセス制御 (Access Control)、リネージ (Lineage) および監査 (Auditing) 機能により、モデルへのアクセスを強化する。
- リスク管理された導入： モデル更新を制御するためにA/Bテストとカナリアロールアウトを実施する。
業界アナリストのサンジーヴ･モハン (Sanjeev Mohan) は次のように述べている。「企業は生成AIに投資したがっていますが、それにはスケーラブルなデータだけでなく、安全で、コンプライアンスを保ち、適切に管理されたデータも必要です。」 「AIを大規模かつプライベートで実用化するには、DIYアプローチでは対処が難しい複雑性が出てきます。 クラウデラAIインフェレンスは、高度なデータ管理とNVIDIAのAI専門知識を統合することでこのギャップを埋め、データを保護しながらその潜在能力を最大限に引き出します。 サービスアカウント、アクセス制御、監査などのエンタープライズグレードのセキュリティ機能により、組織はデータを確実に保護し、オンプレミスまたはクラウドでワークロードを実行し、必要な柔軟性とガバナンスを備えたAIモデルを効率的に展開することができます。」
クラウデラの最高製品責任者であるディプト･チャクラバーティ (Dipto Chakravarty) は次のように述べている。「NVIDIAと協力してクラウデラAIインフェレンスを市場に投入できることを嬉しく思っています。この製品は、ほぼすべてのモデルとユースケースをサポートする単一のAI/MLプラットフォームを提供し、企業は当社のソフトウェアで強力なAIアプリケーションを作成し、その高性能AIアプリケーションをクラウデラでも実行できるようになります。」 「NVIDIA AIの統合により、高度なパフォーマンスを通じてよりスマートな意思決定が可能になるため、クラウデラは、信頼されるAIアプリを信頼されるデータとともに大規模に構築することで、お客様のためにイノベーションを実現しています。」
NVIDIAのAIソフトウェア、モデル、サービス担当バイスプレジデントであるカリ･ブリスキー (Kari Briski) は次のように述べている。「今日の企業は、事業の成果を促進するために、生成AIを既存のデータインフラストラクチャにシームレスに統合する必要があります。」 「NVIDIA NIMマイクロサービスをクラウデラのAIインフェレンスプラットフォームに組み込むことで、デベロッパーは信頼性の高い生成AIアプリケーションを簡単に作成できるようになり、自立型のAIデータフライホイールを促進することができます。」
これらの新機能は、10月10日に開催されるクラウデラの主要なAIおよびデータカンファレンス、クラウデラEVOLVE NY (Cloudera EVOLVE NY) で発表される予定である。 これらの最新アップデートがクラウデラの取り組みをどのように深化させ、生成AIによってパイロットから本番環境へとエンタープライズデータを移行させるかについて詳しくは、こちらをクリックされたい。
クラウデラについて
クラウデラは、データ、分析、AIのための唯一の真のハイブリッドプラットフォームである。 クラウデラでは他のクラウド専業ベンダーと比較して100倍以上のデータを管理しており、グローバル企業がパブリッククラウドでもプライベートクラウドでもあらゆる種類のデータを貴重な信頼性されるインサイトに変換することを可能にしている。 当社のオープンデータレイクハウスは、ポータブルなクラウドネイティブ分析によるスケーラブルでセキュアなデータ管理を実現し、プライバシーを保護し、責任を持って信頼性の高いAIの展開を保証しながら、顧客がデータに生成AIモデルを適用できるようにしている。 金融サービス、保険、メディア、製造、政府など、世界最大のブランドが、現在および将来に不可能と思われた課題を解決するためにクラウデラを活用している。
詳細については、Cloudera.comにアクセスし、LinkedInおよびXでフォローされたい。Clouderaおよび関連マークは、Cloudera, Inc.の商標または登録商標である。その他の会社名および製品名は、それぞれの所有者の商標である可能性がある。
問い合わせ先
ジェス･ホーン=カバナ (Jess Hohn-Cabana)
cloudera@v2comms.com
