Chuyển đến nội dung chính

Giá trị nhà cung cấp

Sử dụng lmstudio trong llm.profiles.<name>.provider.

Ví dụ về hồ sơ

{
  "llm": {
    "profiles": {
      "default": {
        "provider": "lmstudio",
        "model": "qwen2.5-7b-instruct",
        "prompt": "Translate from {{source}} to {{target}}:\n\n{{input}}"
      }
    }
  }
}

Biến môi trường tùy chọn

LM_STUDIO_BASE_URL mặc định là http://127.0.0.1:1234/v1. LM_STUDIO_API_KEY mặc định là lm-studio.