Docker モデルランナー
-
12月 11日、 2025
Docker Model Runnerは現在、Windows上でvLLMをサポートしています
Windows上でDocker Model RunnerとWSL2を使ってGPUアクセラレーション付きのvLLMを実行できます。高速AI推論が登場しました。
ドリン・ゲマン今すぐ読む
-
12月 5日、 2025
vLLM対0を発表します。12。0、ミニストラル3とディープシークV3。Docker Model Runner の2
ミニストラル 3 とDeepSeek-V3を実行。2 Docker Model Runner と vLLM 0で使っています。12。最新のオープンウェイトモデルは発売次第、すぐに試乗してください。
エリック・カーティン今すぐ読む
-
12月 1日、 2025
Docker Model Runnerでモデルの埋め込みを実行し、セマンティックサーチを解除
このガイドでは、セマンティックサーチに埋め込みモデルを使う方法と、Docker Model Runnerでそれらを実行する方法を解説します。
イグナシ・ロペス・ルナ今すぐ読む
-
2025年11月20日
Docker Model Runnerは高スループット推論のためにvLLMを統合
新作:Docker Model RunnerでのvLLM。Dockerを用いたNVIDIA GPUの自動エンジンルーティングを持つセーフテンサーモデルの高スループット推論。
ドリン・ゲマン、エリック・カーティン、そしてイグナシ・ロペス・ルナ今すぐ読む
-
2025年11月18日
Docker + Unsloth:カスタムモデルをより高速に構築
カスタムモデルの構築と運用は依然として難しいですし、AIモデルをローカルで動かすのも依然として難しいです。オープンソースのLLMがより高性能になっていても、適切な依存関係をつけて実際にマシン上で動作させるのは遅く、脆く、一貫性に欠けています。この課題には二つの側面があります。モデル作成と最適化、すなわちファインチューニングや量子化を効率的にすることです。モデル。。。
スリニ・セカラン今すぐ読む
-
2025年11月3日
Docker Model RunnerでマルチモーダルAIモデルを使用する方法
Docker Model Runnerを使用して、テキスト、画像、およびオーディオを理解するマルチモーダルAIモデルを実行します。CLI と API の例を調べ、Hugging Face モデルを実行し、リアルタイムの Web カメラ ビジョン デモをお試しください。
イグナシ・ロペス・ルナ今すぐ読む
-
2025年10月31日
Mr. Bones: Docker Model Runner を搭載した海賊の声のハロウィーン チャットボット
ローカルのLLMとDocker Model Runnerを使用して、Home Depotのスケルトンを海賊の声のライブチャットボットに変える方法—高速、低コスト、そして完全にキャラクターを再現します。
マイク・コールマン今すぐ読む
-
2025年10月21日
より豊富な「docker model run」エクスペリエンスの導入
Docker モデル実行のための新しい対話型プロンプト: readline スタイルの編集、履歴、複数行入力、応答を停止するための Ctrl+C。今すぐお試しください!
エリック・カーティン今すぐ読む