GenAIとLLMの領域は民主化され、かつては純粋にAI/ML開発者の領域にあったタスクが、通常のアプリケーション開発者によって日常的な製品やビジネスロジックに推論されなければなりません。 これにより、銀行、セキュリティ、ヘルスケアなど、ジェネレーティブテキスト、画像、動画を使った新しい製品やサービスが生まれています。 さらに、GenAIの潜在的な経済的影響は大きく、世界経済に年間数兆ドルを追加する可能性があると推定されています。
Dockerは、開発者がNVIDIA AI Enterprise ソフトウェアプラットフォームを構築し、テストし、実行し、展開するのに理想的な方法を提供します。これはあらゆる企業に生成AIを手の届くエンドツーエンドのクラウドネイティブソフトウェアプラットフォームです。このプラットフォーム はDockerコンテナで使用可能で、マイクロサービスとして展開可能です。これにより、チームはパフォーマンスが単なる目標ではなく必須となる最先端のAIアプリケーションに集中できるようになります。
今週、 NVIDIA GTC グローバルAIカンファレンスで、 NVIDIA AI Enterprise の最新リリースが発表されました。これにより、 NVIDIA AI基盤モデル、 NVIDIA NeMoフレームワーク、そして 最近発表 されたNVIDIA NIM推論マイクロサービスを用いたカスタム生成AIモデルを構築し展開するためのツールとフレームワークが企業に提供され、パフォーマンス向上と効率的なランタイムを実現しています。
このブログ記事では、現在お客様が利用できるDockerリソースの一部をまとめています。
Docker Hub
Docker Hub は世界最大のコンテナイメージリポジトリであり、 PyTorch、 TensorFlow、 Langchain、 Hugging Face、 Ollamaなどの主要なフレームワークやツールを含むAI/ML開発に特化したコンテナイメージの広範なコレクションを所蔵しています。AI/ML関連画像の プルリクエストは 100 百万件以上 あり、Docker Hubの開発者コミュニティにとっての重要性は明白です。AI/MLアプリケーションの開発を簡素化するだけでなく、イノベーションの民主化も可能となり、世界中の開発者がAI技術にアクセスできるようになります。
NVIDIAのDocker Hubライブラリ は、加速コンピューティングの力を活用した コンテナイメージ 群を提供し、 NVIDIAのAPIカタログを補完しています。Docker Hubの膨大なユーザー層は、月間約 27 00万のアクティブIPを持ち、前年同期比で 47%の驚異的な成長を示しています。これらのコンテナ画像を使ってAIのパフォーマンスを向上させることができます。
Docker Hubの広範なリーチは、月間 26 億という驚異的なイメージプルによって強調されており、継続的な成長とイノベーションの大きな可能性を示唆しています。
Docker Desktop と NVIDIA AI Workbench
WindowsおよびMacでのDocker Desktopは、NVIDIA AI Workbench開発者にローカルおよびリモートのマシンでスムーズな体験を提供します。
NVIDIA AI Workbench は使いやすいツールキットで、開発者がPCやワークステーション上でAIおよび機械学習モデルを作成、テスト、カスタマイズし、データセンターやパブリッククラウドへスケールできます。インタラクティブな開発ワークフローを簡素化しつつ、初心者を妨げたり専門家を妨げたりする技術的な作業を自動化します。AI Workbenchはワークステーションのセットアップと設定を迅速かつ簡単にします。また、開発者が自分のデータやユースケースをさらに早く始められるよう、例プロジェクトも含まれています。
Dockerのエンジニアリングチームは、WSL2上のAI Workbenchインストールの最近の改善を通じて、NVIDIA GPUアクセラレーションプラットフォームのユーザー体験を向上させるためにNVIDIAと協力しています。
NVIDIA AI Workbench をローカルで活用して生成画像モデルをチューニングし、より正確なプロンプト結果を生み出す方法をご覧ください:
近い将来のアップデートとして、AI Workbenchは コンテナデバイスインターフェース(CDI) を使用して、ローカルおよびリモートのGPU対応環境を管理します。CDIは、NVIDIAとIntelが主導するCNCF支援プロジェクトで、複雑なデバイス構成やCUDA互換性チェックをサポートするためにコンテナ内にNVIDIA GPUを公開しています。これにより、研究、シミュレーション、生成AI、MLアプリケーションがローカルおよびクラウドネイティブのGPUリソースを活用する方法が簡素化されます。
Docker Desktop 4。29 (Moby 25を含む)は、 開発者がデーモン内でCDIサポートを設定し 、CDIデバイスのサポートを通じて –deviceオプション を使うことで、すべてのNVIDIA GPUをランニングコンテナ内で簡単に利用可能にできます。
docker run --device nvidia.com/gpu=all <image> <command>Docker GenAI Stackを使用したLLMを利用したアプリ
Docker GenAIスタックにより、チームはNVIDIAの加速コンピューティングをAIワークフローに容易に統合できます。このスタックは、シームレスなコンポーネント統合のために設計されており、開発者のノートパソコンでDocker Desktop for Windowsを使って設定できます。NVIDIA GPUとNVIDIA NIMのパワーを活かしてLLM推論を加速し、アプリケーション性能の具体的な向上をもたらします。開発者は5つの事前パッケージ化されたアプリケーションを実験・修正し、スタックの機能を活用できます。
Docker Desktop で AI/ML 開発を加速
Docker Desktop は、開発者のノートパソコン上で加速された機械学習開発環境を促進します。コンテナのNVIDIA GPUサポートを利用することで、PyTorchやTensorFlowなどのDocker Hubを通じて配布されるツールを活用し、プロジェクトの速度を大幅に向上させることができ、Docker上でNVIDIA技術による効率向上がいかに重要かを裏付けています。
ソフトウェアサプライチェーンの保護
ソフトウェアのサプライチェーンの確保は、信頼性が高く安全に稼働可能なMLアプリケーションを継続的に開発する上で極めて重要です。Docker Hubの検証済みで信頼できるコンテンツを構築し、Docker Scoutからの実用的なインサイトを通じてセキュリティ課題を把握することが、ソフトウェアサプライチェーン全体のセキュリティ体制向上の鍵となります。これらのベストプラクティスに従うことで、顧客は本番環境でセキュリティ問題が発生するリスクを最小限に抑え、本番環境で動作するアプリケーションの信頼性と整合性を向上させることができます。この包括的なアプローチは、Docker GenAIスタックで構築されたMLアプリケーションの開発を加速させるだけでなく、Hubから取得した画像上でLLMとインターフェースする際のより安全なイメージを可能にします。 ラングチェイン.最終的に、これにより開発者は自分のアプリケーションが安全で信頼性の高い基盤の上に構築されているという自信を持てます。
"幅広い開発者から AI への関心が爆発的に高まっているため、NVIDIA と協力して、AI アプリケーションの構築を加速するツールを構築できることを嬉しく思います。 DockerとNVIDIAを取り巻くエコシステムは、長年にわたって強力な基盤を構築しており、これにより、エンタープライズAI/ML開発者の新しいコミュニティがGPUアクセラレーションアプリケーションを探索および構築できるようになります。」
Justin Cormack 氏 (最高技術責任者、Docker)
"NVIDIA AI Workbench のようなエンタープライズ アプリケーションは、Docker Desktop がローカル システム上で提供する合理化から大きな恩恵を受けることができます。 Docker チームとの協力は、Windows で GPU を管理するための AI Workbench のユーザー エクスペリエンスの向上に役立ちます。」
Tyler Whitehouse 氏 (プリンシパル プロダクト マネージャー、NVIDIA)
詳しく見る
Docker DesktopとDocker HubをNVIDIA技術と組み合わせることで、開発者はAIの革命的な力を活用し、スキルを伸ばし、可能性の限界を押し広げる革新的なアプリケーションを提供する機会を掴む力を身につけます。NVIDIAのDocker HubライブラリやNVIDIA AI Enterpriseをチェックして、自分だけのAIソリューションを始めましょう。
