Docker モデルランナー
-
Introducing a Richer ”docker model run” Experience
New interactive prompt for docker model run: readline-style editing, history, multi-line input, and Ctrl+C to stop responses. Try it today!
今すぐ読む
-
Docker Model Runner と Open WebUI の出会い: ローカル AI モデルを実行するより簡単な方法
Docker Desktop の Open WebUI 拡張機能を使用して、Docker Model Runner でローカル LLM を実行し、チャット UI、ファイル アップロード、音声、マルチモデルのサポートを数分で実行します。
今すぐ読む
-
Join Us in Revitalizing the Docker Model Runner Community!
Docker Model Runner は GA であり、ほぼすべての GPU で Vulkan をサポートするすべての Docker バージョンで提供されました。統合リポジトリにスターを付け、フォークし、貢献します。
今すぐ読む
-
新しい NVIDIA DGX Spark 上の Docker Model Runner: AI をローカルで開発するための新しいパラダイム
NVIDIA DGX™ Spark のサポートを Docker Model Runner に導入できることを嬉しく思います。新しい NVIDIA DGX Spark は驚異的なパフォーマンスを提供し、Docker Model Runner によりアクセスできるようになります。Model Runner を使用すると、すでに信頼しているのと同じ直感的な Docker エクスペリエンスを使用して、ローカルマシン上でより大きなモデルを簡単に実行および反復処理できます。この中で...
今すぐ読む
-
LoRAの説明:Dockerによるより速く、より効率的な微調整
LoRA は、ベース モデルをフリーズし、トレーニング可能なアダプターを追加して、既存の知識を上書きすることなく、事前トレーニングされたモデルに新しい動作を教える方法です。
今すぐ読む
-
あらゆる GPU でローカル AI のロックを解除: Vulkan サポートを備えた Docker Model Runner
Docker Model Runnerを使用して、より多くのGPUでローカルLLMを実行します。新しいVulkanサポートにより、AMD、Intel、および統合GPUが高速化され、CPUフォールバックでハードウェアが自動検出されます。
今すぐ読む
-
IBM Granite 4.0Docker Hubでモデルが利用可能になりました
開発者は、IBM の最新のオープンソース Granite 4を発見して実行できるようになりました。Docker Hub モデル カタログから言語モデルを0 し、Docker Model Runner を使用して数分でビルドを開始します。花崗岩 4。0 、エンタープライズ対応の強力なパフォーマンスと軽量なフットプリントを兼ね備えているため、ローカルでプロトタイプを作成し、自信を持って拡張できます。花崗岩 4。0 ファミリーは、スピードと柔軟性を重視して設計されています,...
今すぐ読む
-
Llama.cpp がアップグレードされる: 再開可能なモデルのダウンロード
新機能: llama.cpp で再開可能な GGUF ダウンロード。Docker Model Runnerがモデルのバージョン管理、共有可能、OCIネイティブ化を行い、開発から本番環境までのシームレスなプロセスを実現する方法について説明します
今すぐ読む