本地模型服務協定（LMSP）

LMSP 解決什麼問題

LMSP（Local Model Service Protocol，本地模型服務協定）是一套開放協定，面向在使用者自己裝置或區域網路中執行語言模型的軟體，以及使用這些軟體的客戶端。

常駐的本地服務會在約定位址上描述自己並列出模型，用 JSON 或伺服器傳送事件（SSE）回應生成請求，並把長時間的生成作為持久化任務來執行：任務可以取消，客戶端斷線後也可以重新接上。同一個服務還相容 OpenAI API，因此今天已有的客戶端可以繼續使用。

LMSP 並不取代 OpenAI API、Ollama 或 MCP，而是把它們的優點組合成一個適合本地常駐服務的協定層。

概覽

快速試用

如果你的機器上正執行著 LMSP 服務，完整流程如下。請先按第 10.2 節完成配對以獲得權杖，並把它儲存在 LMSP_TOKEN 中。

# 1. 發現服務
curl http://127.0.0.1:17832/.well-known/lmsp.json

# 2. 列出本地模型
curl http://127.0.0.1:17832/lmsp/v1/models \
  -H "Authorization: Bearer $LMSP_TOKEN"

# 3. 生成回應
curl http://127.0.0.1:17832/lmsp/v1/responses \
  -H "Authorization: Bearer $LMSP_TOKEN" \
  -H "Content-Type: application/json" \
  -d '{"model":"qwen3:14b-q4_k_m","input":[{"type":"message","role":"user","content":[{"type":"input_text","text":"Hello"}]}]}'

與其他協定的關係

資源

• 規範 1.0 版（草案）。
• OpenAPI 合約，提供 JSON 和 YAML 兩種格式。
• 面向語言模型的 llms.txt 和 llms-full.txt。
• 每個頁面都提供 Markdown 版本：把頁面位址末尾的斜線換成 .md 即可，例如 /zh-tw/lmsp/1.0/tasks.md。