Docker では、コミュニティとコラボレーションの力を常に信じています。ロバート・アクセルロッドが 『The Evolution of Cooperation』で言った「うまくやる鍵は、他人に勝つことではなく、彼らの協力を引き出すことにある」という言葉を思い出します。そして、Docker Model Runner がこの協力関係を促進するのに、AI、ML、データ サイエンス コミュニティの有名な集いの場である Hugging Face が最適です。開発者は、Docker Model Runner をローカル推論エンジンとして使用して、Hugging Face でモデルを実行し、Model Runner がサポートするモデルをフィルタリングできることをお知らせします。
Of course, Docker Model Runner has supported pulling models directly from Hugging Face repositories for some time now:
docker model pull hf.co/bartowski/Llama-3.2-1B-Instruct-GGUF
抱きしめている顔のモデルランナーによる局所推論
But so far, it has been cumbersome to rummage through the vast collection of models available at Hugging Face and find repositories that work with Docker Model Runner. But not anymore! Hugging Face now supports Docker as a Local Apps provider, so you can select it as the local inference engine to run models. And you don’t even have to configure it in your account; it is already selected as a default Local Apps provider for all users.
図 1:Docker Model Runnerは、Hugging Faceでローカルモデルを実行するための新しい推論エンジンです。
これにより、HuggingFace から直接モデルを実行するのは、リポジトリ ページにアクセスし、Local Apps プロバイダーとして Docker Model Runner を選択し、提供されたスニペットを実行するのと同じくらい簡単になります。
図 2: Docker Model Runner を使用して Hugging Face からモデルを実行するのが簡単になりました。
検索フィルターを使用して、Docker Model Runner でサポートされているすべてのモデル (GGUF 形式のモデルを含むリポジトリ) のリストを取得することもできます。
図 3:Hugging Faceの検索フィルターを使用して、Docker Model Runnerでサポートされているモデルを簡単に検出
HuggingFace が Docker Model Runner モデルのファーストクラスのソースとなり、モデルの発見がコンテナイメージのプルと同じくらい日常的になったことを非常に嬉しく思います。これは小さな変更ですが、リサーチと実行可能なコードの間の距離を静かに縮めるものです。
結論
Docker Model Runner が Hugging Face に直接統合されたことで、ローカル推論の実行がはるかに便利になりました。開発者は、互換性のあるモデルをフィルタリングし、1 つのコマンドでプルし、Docker Model Runner をローカル アプリ エンジンとして使用して Hugging Face UI から直接 run コマンドを取得できます。この緊密な統合により、モデルの検出と実行は、コンテナイメージをプルするのと同じくらいシームレスに感じられます。
Robert Axelrod 氏と The Evolution of Cooperation の話に戻りますが、Docker Model Runner は当初からオープンソース プロジェクトであり、コミュニティと一緒に構築することに関心があります。だから、GitHubに向かい、 リポジトリをチェックし、問題や提案を記録し、一緒に未来を築き続けましょう。
さらに詳しく
- Sign up for the Docker Offload Beta and get 300 free minutes to run resource-intensive models in the cloud, right from your local workflow.
- Docker Model Runner の設計アーキテクチャの内部をご覧ください。
- モデル分散仕様の背後にある ストーリー をご覧ください
- Docker Model Runner のクイックスタートガイドをお読みください。
- Model Runner のドキュメントが見つかります。
- 新しいAIソリューションのページをご覧ください
- Docker は初めてですか? アカウントを作成します。