Chuyển đến nội dung chính

Giá trị của nhà cung cấp

Sử dụng groq trong llm.profiles.<name>.provider.

Hồ sơ ví dụ

{
  "llm": {
    "profiles": {
      "default": {
        "provider": "groq",
        "model": "llama-3.3-70b-versatile",
        "prompt": "Translate from {{source}} to {{target}}:\n\n{{input}}"
      }
    }
  }
}

Biến môi trường bắt buộc

export GROQ_API_KEY="your-groq-api-key"

Biến môi trường tùy chọn

GROQ_BASE_URL mặc định là https://api.groq.com/openai/v1.