AWS Bedrock - Hyperlocalise

提供者值

在 llm.profiles.<name>.provider 中使用 bedrock。

示例个人资料

{
  "llm": {
    "profiles": {
      "default": {
        "provider": "bedrock",
        "model": "anthropic.claude-3-5-sonnet-20241022-v2:0",
        "prompt": "Translate from {{source}} to {{target}}:\n\n{{input}}"
      }
    }
  }
}

必需的环境变量

export AWS_REGION="us-east-1"
export AWS_ACCESS_KEY_ID="your-access-key-id"
export AWS_SECRET_ACCESS_KEY="your-secret-access-key"

AWS_REGION="us-east-1"
AWS_ACCESS_KEY_ID="your-access-key-id"
AWS_SECRET_ACCESS_KEY="your-secret-access-key"

可选环境变量

AWS_SESSION_TOKEN 使用临时凭证时。