Amazon Bedrock
Aider 可以连接 Amazon Bedrock 提供的模型。 要配置 Aider 使用 Amazon Bedrock API,您需要设置 AWS 凭证。 这可以通过 AWS CLI 或设置环境变量来完成。
从 Amazon Bedrock 选择模型
在使用 Amazon Bedrock 的模型之前,您必须在 AWS 管理控制台的 模型访问 页面中”启用”该模型。
要查找 Model ID
,请打开 Bedrock 控制台的 模型目录 区域,选择您想使用的模型,然后在”使用”标题下找到 modelId
属性。
Bedrock 推理配置文件
Amazon Bedrock 新增支持一项名为跨区域”推理配置文件”的功能。
Bedrock 中托管的某些模型 仅 支持这些推理配置文件。
如果您使用这些模型之一,则需要使用 AWS 管理控制台 模型目录 页面中的 Inference Profile ID
而非 Model ID
。
例如,2025年2月发布的 Claude Sonnet 3.7 模型仅支持通过推理配置文件进行推理。要使用此模型,您需要使用 us.anthropic.claude-3-7-sonnet-20250219-v1:0
推理配置文件 ID。
在 Amazon Bedrock 控制台中,前往 推理与评估 ➡️ 跨区域推理 以查找 Inference Profile ID
值。
如果您尝试为仅支持推理配置文件功能的模型使用 Model ID
,您将收到类似以下的错误消息:
litellm.BadRequestError: BedrockException - b’{“message”:”Invocation of model ID anthropic.claude-3-7-sonnet-20250219-v1:0 with on-demand throughput isn\xe2\x80\x99t supported. Retry your request with the ID or ARN of an inference profile that contains this model.”}’
安装与配置
首先安装 aider:
python -m pip install aider-install
aider-install
接下来配置您的 AWS 凭证。这可以通过 AWS CLI 或设置环境变量来完成。
AWS CLI 配置
如果尚未安装,请先安装 AWS CLI 并使用您的凭证进行配置:
aws configure
这将提示您输入 AWS 访问密钥 ID、秘密访问密钥和默认区域。
环境变量
您可以设置以下环境变量:
export AWS_REGION=your_preferred_region
# 用户认证
export AWS_ACCESS_KEY_ID=your_access_key
export AWS_SECRET_ACCESS_KEY=your_secret_key
# 配置文件认证
export AWS_PROFILE=your-profile
您可以将这些添加到您的 .env 文件中。
使用 PowerShell 设置环境变量
如果您在 MacOS、Linux 或 Windows 上使用 PowerShell,可以使用以下命令设置相同的 AWS 配置环境变量。
$env:AWS_ACCESS_KEY_ID = 'your_access_key'
$env:AWS_SECRET_ACCESS_KEY = 'your_secret_key'
$env:AWS_REGION = 'us-west-2' # 输入您希望使用的 AWS 区域,需确保该区域支持 Bedrock 服务。
开始使用
设置好 AWS 凭证后,您可以使用 --model
命令行开关运行 Aider,指定要使用的 Bedrock 模型:
# 切换到您的代码库目录
cd /to/your/project
aider --model bedrock/anthropic.claude-3-5-sonnet-20240620-v1:0
有时在模型名称前加上 “us.” 似乎会有帮助:
aider --model bedrock/us.anthropic.claude-3-5-sonnet-20240620-v1:0
可用模型
要查看通过 Bedrock 可用的一些模型,请运行:
aider --list-models bedrock/
在使用 Aider 尝试这些模型之前,请确保您的 AWS 账户有权访问这些模型。
安装 boto3
您可能需要安装 boto3
包。
# 如果您使用 aider-install 或 `uv tool` 安装
uv tool run --from aider-chat pip install boto3
# 或者使用 pipx...
pipx inject aider-chat boto3
# 或者使用 pip
pip install -U boto3
更多信息
有关 Amazon Bedrock 及其模型的更多信息,请参阅 AWS 官方文档。
另请查看 litellm 关于 Bedrock 的文档。