跳至主要内容
版本:1.0.0

模型設定

新增模型​

模型用 setup_model.sh 註冊到設備上,註冊之後才能在前端指派給 Agent。以下指令都在設備上執行,執行完會自動重啟 Gateway。

cd /opt/Advantech/Agentic/app/openclaw/scripts

模型 id 大小寫敏感,填之前先到模型伺服器確認實際名稱。

地端​

模型跑在這台設備本機的 Ollama 上。模型必須先下載到設備上。

./setup_model.sh local --auto-choice ollama \
--customer-base-url "http://host.docker.internal:23951" \
--customer-model-id "<model-id>"

--customer-base-url 是寫給容器看的位址,所以本機 engine 必須填 host.docker.internal,不能填 127.0.0.1。

遠端​

模型跑在廠區網路上的另一台伺服器。

另一台設備上的 Ollama:

./setup_model.sh local --auto-choice ollama \
--customer-base-url "http://<server-ip>:23951" \
--customer-model-id "<model-id>"

vLLM 或其他 OpenAI 相容的模型伺服器:

./setup_model.sh custom \
--custom-base-url "http://<server-ip>:8000/v1" \
--custom-model-id "<model-id>"

雲端​

OpenAI 相容的雲端 API,需要金鑰時加上 --custom-api-key:

./setup_model.sh custom \
--custom-base-url "https://<api-host>/v1" \
--custom-model-id "<model-id>" \
--custom-api-key "<api-key>"

GitHub Copilot,先自行取得 GitHub OAuth token;可用的模型取決於該 token 的 Copilot 訂閱:

./setup_model.sh copilot \
--copilot-model-id "<model-id>" \
--copilot-token "<github-token>"

下載模型​

只有本機 Ollama 提供下載模型的方法;遠端與雲端的模型由各自的伺服器管理。

先確認設備的記憶體、VRAM 與儲存空間夠放這個模型,也確認 IndustrialClaw 正在執行——桌面捷徑會同時啟動它與 engine 服務。

下載前請確認 Ollama 服務的 API port 與指令裡的一致。IndustrialClaw 的 Ollama 預設在 23951;若你的 Ollama 跑在其他 port(例如 Ollama 原生預設的 11434),請把下面指令與註冊時的 --customer-base-url 一起改成實際的 port。有回應版本號就代表 port 正確:

curl http://127.0.0.1:23951/api/version

確認後再下載模型:

curl http://127.0.0.1:23951/api/pull \
-H 'Content-Type: application/json' \
-d '{"model":"<model-id>"}'

下載完之後,照地端的步驟註冊。

不再使用的模型,先照移除模型取消註冊,再從 Ollama 刪除以釋放磁碟空間:

curl -X DELETE http://127.0.0.1:23951/api/delete \
-H 'Content-Type: application/json' \
-d '{"model":"<model-id>"}'

前端更改模型​

每個 Agent 可以各自使用設備上已註冊的不同模型。

  1. 以 Administrator 登入。
  2. 在 Agent Management 找到該 Agent 的 Model 欄位。
  3. 點開模型名稱,從這台設備上已註冊的模型裡挑。
  4. 確認。
查看:更改 Agent 的模型

更改 Agent 的模型

新模型從下一次 Task 或 Session 才開始生效,正在跑的執行不會中途換模型。User 不能更改模型。

移除模型​

1.0.0 隨附的 remove_model.sh 可能無法正確移除模型,請先換成修正版——下載 remove_model.sh 後覆蓋 scripts 資料夾裡的同名檔案,或直接在裝置上下載:

cd /opt/Advantech/Agentic/app/openclaw/scripts
curl -fsSL -o remove_model.sh https://docs.industrialclaw.advantech.com/scripts/1.0.0/remove_model.sh
chmod +x remove_model.sh

把用到它的 Agent 全部改成別的模型,再執行:

./remove_model.sh ollama/<model-id>

連不到模型時​

兩邊的服務都必須是開著的:IndustrialClaw 本身,以及在 23951 port 提供模型的 engine 服務。動任何設定之前,先確認它們有起來:

docker ps -a

看 STATUS 這一欄——正常時每個容器都會顯示 Up …。顯示 Exited (…) 表示那個服務已經停掉了。先從桌面捷徑重新啟動一次;如果同一個容器又停掉,把那一整行(含 NAMES 欄的名稱)交給設備管理員。

相關文件​