Docker Model Runner を初めてリリースしたとき、Docker Hub で Docker によって公開および保守される AI モデルを実行するためのサポートが組み込まれていました。これにより、次のようなモデルを簡単に引っ張ることができました llama3.2または、 gemma3 して、使い慣れたDockerスタイルのコマンドでローカルで使用を開始します。
Model Runner は、 tag、 push、 package の 3 つの新しいコマンドをサポートするようになりました。これにより、チーム、組織、またはより広範なコミュニティとモデルを共有できます。独自の微調整されたモデルを管理している場合でも、一連のオープンソースモデルをキュレーションしている場合でも、Model Runnerでは 、Docker Hub またはその他のOCI Artifact互換コンテナ・レジストリに公開できるようになりました。Docker Hubを使用しているチームの場合、レジストリアクセス管理(RAM)などのエンタープライズ機能は、ポリシーベースの制御とガードレールを提供し、安全で一貫したアクセスを強制するのに役立ちます。
タグ付けとDocker Hubへのプッシュ
まず、Docker Hub から既存のモデルを独自の名前空間で再公開することから始めましょう。
# Step 1: Pull the model from Docker Hub
$ docker model pull ai/smollm2
# Step 2: Tag it for your own organization
$ docker model tag ai/smollm2 myorg/smollm2
# Step 3: Push it to Docker Hub
$ docker model push myorg/smollm2
それです！これで、モデルは myorg/smollm2 で利用可能になり、アクセス権を持つすべてのユーザーがModel Runnerを使用して使用できるようになります。
他のコンテナレジストリへのプッシュ
Model Runner は、GitHub Container Registry (GHCR) など、Docker Hub 以外のコンテナレジストリをサポートしています。
# Step 1: Tag for GHCR
$ docker model tag ai/smollm2 ghcr.io/myorg/smollm2
# Step 2: Push to GHCR
$ docker model push ghcr.io/myorg/smollm2
認証とパーミッションは、GHCRのコンテキストで通常のDockerイメージの場合と同様に機能するため、既存のワークフローを活用してレジストリの認証情報を管理できます。
カスタム GGUF ファイルのパッケージ化
独自のモデルファイルを公開してみませんか?package コマンドを使用して、.gguf ファイルをDocker互換のOCIアーティファクトに格納し、Docker Hubなどのコンテナ・レジストリに直接プッシュします。
# Step 1: Download a model, e.g. from HuggingFace
$ curl -L -o model.gguf https://huggingface.co/TheBloke/Mistral-7B-v0.1-GGUF/resolve/main/mistral-7b-v0.1.Q4_K_M.gguf
# Step 2: Package and push it
$ docker model package --gguf "$(pwd)/model.gguf" --push myorg/mistral-7b-v0.1:Q4_K_M
これで、GGUF 形式の未加工のモデル ファイルを、 docker model run とシームレスに連携する、移植可能でバージョン管理された共有可能なアーティファクトに変換できました。
結論
Docker Model Runner の新しい tag、push、package コマンドを使用して 、独自のモデルを簡単に公開 できることを見てきました。これらの追加により、おなじみの Docker 開発者エクスペリエンスが AI モデル共有の世界にもたらされます。Docker Hub を使用しているチームや企業は、コンテナイメージと同様に、モデルのアクセスと制御を安全に管理できるため、チーム間での GenAI アプリケーションのスケーリングが容易になります。
モデルのパッケージ化と実行をさらに強力で柔軟にするModel Runnerのさらなる改善にご期待ください。
さらに詳しく
- Docker Model Runner のクイックスタートガイドをお読みください。
- Model Runner のドキュメントが見つかります。
- Docker Navigator ニュースレターを購読してください。
- Docker は初めてですか? アカウントを作成します。
- 質問がありますか? Docker コミュニティがお手伝いします。