2025-04-23-docker desktop Settings AI

發表於 閱讀次數：
2025-04-23-docker desktop Settings AI

2025-04-23-docker desktop Settings AI

docker desktop Settings
AI:
AI
Settings for beta AI features can be found here.

Docker Model Runner
✔ Enable Docker Model Runner 
  Enable GPU-accelerated inference engines on /var/run/docker.sock and model-runner.docker.internal:80
  Note: inference engine support may take a few minutes to initialize.
      ⚪  Enable host-side TCP support

你看到的 AI 區塊 其實是 Docker Desktop 最近新增的 實驗性功能 (beta) 🎯。
它主要是給「AI/機器學習模型」做推論（inference）的開發者用的，不是一般 Docker 基本功能。

各選項說明：

  • Enable Docker Model Runner ✅
    這是打開一個專門用來跑 AI 模型的服務。

    • 它會在 /var/run/docker.sock 和 model-runner.docker.internal:80 提供推論服務。
    • 如果你的電腦有 **GPU (特別是 NVIDIA CUDA GPU)**，可以利用 GPU 加速推論。
    • 啟動後要等幾分鐘，因為它需要初始化環境。

  • Enable host-side TCP support ⚪
    這是讓「本機的 TCP 連線」也能直接連到這個 Model Runner。

    • 默認是關掉的。
    • 如果你只是一般使用 Docker，不需要特別打開。

重點 🙋

  1. 如果你只是用 Docker 來跑一般的 Web App、Database、API → 可以 不用勾 AI 的選項。
  2. 如果你未來要嘗試 **AI 模型推論 (例如跑 LLM、影像分類)**，那麼才需要開啟。
  3. 這個功能目前是 beta，所以穩定性可能不是很好。

要不要我幫你整理一份「初學者建議在 Docker Desktop Settings 裡該勾什麼、不該勾什麼」？這樣你就不用擔心亂勾了。