资讯详情

在 VoltAgent 中接入 Amazon Bedrock:从凭证配置到多模型路由的完整实战指南

📅 2026/9/24 15:20:24 | 华诺云谱 👁 阅读
在 VoltAgent 中接入 Amazon Bedrock:从凭证配置到多模型路由的完整实战指南
人工智能AI AgentAgent 框架后端多智能体RAG工具调用Agent 记忆【免费下载链接】voltagentAI Agent Engineering Platform built on an Open Source TypeScript AI Agent Framework项目地址https://gitcode.com/gh_mirrors/vo/voltagent点击查看免费下载本指南以 VoltAgent 官方示例 examples/with-amazon-bedrock 为核心完整讲解如何在 VoltAgent TypeScript Agent 框架中接入 Amazon Bedrock 服务从项目脚手架搭建、AWS 凭证链配置、模型访问权限开通到 Agent 代码编写、工具Tools挂载、持久化内存与 REST 服务器启动。读完本文你将掌握通过amazon-bedrock/model模型路由字符串切换 Claude、Llama、Mistral、Titan 等 Bedrock 模型的具体方法并理解 VoltAgent 底层如何自动解析 AWS 凭证。一、示例解决什么问题VoltAgent 是一个开源的 TypeScript AI Agent 框架见仓库根目录 README.md它通过模块化组件让开发者快速构建、定制和扩展 AI Agent支持多种 LLM 提供方切换而无需绑定特定厂商。本示例with-amazon-bedrock则展示了如何将 Agent 的模型后端对接 AWS Amazon Bedrock——一个通过单一 API 提供多家模型厂商Anthropic Claude、Meta Llama、Mistral、Amazon Titan 等的托管推理服务。该示例同时演示了 VoltAgent 的几个关键能力Amazon Bedrock 集成通过amazon-bedrock/前缀访问 Bedrock 上的 Claude、Llama、Mistral、Titan 模型AWS 凭证链自动识别环境变量、本地 Profile、IAM Role 等凭证来源模型路由Model Router以amazon-bedrock/model字符串直接指定模型自定义工具Custom Tools内置一个天气查询工具示例演示函数调用function calling服务器模式通过 Hono 服务器把 Agent 暴露为端口 3141 上的 REST API。注README 中描述的服务端口为 4000而当前仓库 src/index.ts 实际使用honoServer({ port: 3141 })请以仓库源码为准。二、环境准备与项目安装2.1 前置条件运行该示例需要满足Node.js v20 或更高版本npm / yarn / pnpm任意包管理器一个可访问 Amazon Bedrock 的 AWS 账号已配置好AWS 凭证凭证配置方式见下文。2.2 创建项目VoltAgent 提供了create-voltagent-app脚手架可以直接拉取本示例npm create voltagent-applatest -- --example with-amazon-bedrock然后进入项目目录cd with-amazon-bedrock脚手架生成的目录结构与仓库中的示例保持一致见 examples/with-amazon-bedrock. ├── src/ │ └── index.ts # 主应用Bedrock Agent 定义与启动 ├── .env.example # AWS 配置模板README 中约定的文件 ├── .voltagent/ # 自动生成的 Agent 内存目录 ├── package.json ├── tsconfig.json └── README.md其中.voltagent/目录由框架自动生成用于存放 Agent 的持久化内存数据库文件本示例中为file:./.voltagent/memory.db。2.3 安装与运行项目依赖通过 package.json 声明核心依赖包括voltagent/coreAgent 核心框架本示例使用^2.9.2voltagent/libsqlLibSQL 内存适配器voltagent/loggerPino 日志封装voltagent/server-honoHono REST 服务器aiAI SDKv6Bedrock 提供方适配器基于它实现zod工具参数 schema 校验。安装依赖后即可启动开发服务器npm install npm run dev # 或 yarn dev # 或 pnpm devdev脚本tsx watch --env-file.env ./src会以监听模式运行src/index.ts并自动从.env文件加载环境变量。生产环境可先npm run buildtsc编译到dist/再npm start。三、AWS 凭证配置从环境变量到凭证链3.1 配置 .env 文件复制配置模板并编辑cp .env.example .env.env内容如下AWS_REGIONus-east-1 # Option 1: AWS Access Keys AWS_ACCESS_KEY_IDyour-access-key-id AWS_SECRET_ACCESS_KEYyour-secret-access-key # Option 2: AWS Profile (recommended) AWS_PROFILEyour-profile-name有两种凭证方式可选Option 1访问密钥直接在.env中填写AWS_ACCESS_KEY_ID与AWS_SECRET_ACCESS_KEYOption 2AWS Profile推荐通过AWS_PROFILE指定本地~/.aws/credentials中已有的 Profile避免把密钥写进代码仓库。3.2 框架读取的标准环境变量VoltAgent 读取 Amazon Bedrock 凭证时使用以下标准 AWS 环境变量变量说明AWS_ACCESS_KEY_IDAWS 访问密钥 IDAWS_SECRET_ACCESS_KEYAWS 秘密访问密钥AWS_REGION区域如us-east-1必须与模型可用区域一致AWS_SESSION_TOKEN可选临时凭证STS场景使用如果你本地已配置好 AWS Profile 或 IAM Role提供方会自动拾取无需额外代码。3.3 源码级原理凭证如何被解析从源码看VoltAgent 的模型提供方注册表在加载 Amazon Bedrock 提供方时会显式构造createAmazonBedrock调用并注入凭证见 model-provider-registry.tsconst buildAmazonBedrockProvider: ProviderAdapter (config, moduleExports) { const createFn getModuleFunction(moduleExports, createAmazonBedrock); const providerExport resolveProviderExport(moduleExports, bedrock); ... return (createFn?.({ region: getEnvValue(AWS_REGION), accessKeyId: getEnvValue(AWS_ACCESS_KEY_ID), secretAccessKey: getEnvValue(AWS_SECRET_ACCESS_KEY), sessionToken: getEnvValue(AWS_SESSION_TOKEN), }) ?? providerExport) as ModelProviderEntry; };即框架启动时读取AWS_REGION、AWS_ACCESS_KEY_ID、AWS_SECRET_ACCESS_KEY、AWS_SESSION_TOKEN四个环境变量注入到ai-sdk/amazon-bedrock的createAmazonBedrock工厂函数中。该适配器通过PACKAGE_ADAPTERS映射到 npm 包ai-sdk/amazon-bedrock见 model-provider-registry.generated.ts 中的注册条目env: [AWS_ACCESS_KEY_ID, AWS_SECRET_ACCESS_KEY, AWS_REGION]。如果只配置了本地 AWS Profile / IAM Role则AWS_ACCESS_KEY_ID等环境变量为空但ai-sdk/amazon-bedrock底层的 AWS SDK 会继续沿标准凭证链环境变量 → 共享凭证文件 → IAM Role自动解析因此 README 中说“本地已配置的 Profile 或 IAM Role 会被自动拾取”。四、开通 Bedrock 模型访问权限在运行代码之前需要先在 AWS 控制台开通模型访问打开 AWS 控制台https://console.aws.amazon.com进入Amazon Bedrock → Model access请求开通所需模型如 Claude、Llama、Titan 等的访问权限等待审批通常即时生效。五、核心代码逐段解读示例主体位于 src/index.ts下面拆解每一部分。5.1 自定义工具天气查询import { Agent, Memory, VoltAgent, createTool } from voltagent/core; import { z } from zod; const weatherTool createTool({ name: get_current_weather, description: Get the current weather in a location, parameters: z.object({ location: z.string().describe(The location to get weather for), unit: z.enum([celsius, fahrenheit]).optional().describe(Temperature unit), }), execute: async (input) { // Mock weather data const temperature Math.floor(Math.random() * 30) 10; return { location: input.location, temperature, unit: input.unit || celsius, condition: [sunny, cloudy, rainy][Math.floor(Math.random() * 3)], }; }, });要点createTool接收name、description、parameters、execute四要素parameters使用zod描述入参结构location为必填字符串unit为可选的celsius | fahrenheit枚举execute返回模拟天气数据温度随机生成、天气条件随机取 sunny/cloudy/rainy真实项目中可替换为真实天气 API 调用。工具的描述与参数 schema 会被注入模型上下文使 Bedrock 上的 Claude、Llama 等模型能够正确触发函数调用。5.2 日志与 Agent 定义import { createPinoLogger } from voltagent/logger; const logger createPinoLogger({ name: with-amazon-bedrock, level: info, }); const agent new Agent({ name: bedrock-assistant, instructions: An AI assistant powered by Amazon Bedrock, // Credentials are resolved from AWS_ACCESS_KEY_ID, AWS_SECRET_ACCESS_KEY, AWS_REGION, // and optionally AWS_SESSION_TOKEN. model: amazon-bedrock/anthropic.claude-opus-4-1-20250805-v1:0, tools: [weatherTool], memory: new Memory({ storage: new LibSQLMemoryAdapter({ url: file:./.voltagent/memory.db, }), }), });关键配置项model模型路由字符串格式为amazon-bedrock/bedrock模型ID。示例默认使用anthropic.claude-opus-4-1-20250805-v1:0tools挂载上一节定义的weatherTool启用函数调用能力memory配置持久化内存。这里使用voltagent/libsql的LibSQLMemoryAdapter将对话记忆写入本地 SQLite 兼容文件./.voltagent/memory.db。5.3 服务器启动import { honoServer } from voltagent/server-hono; new VoltAgent({ agents: { agent, }, logger, server: honoServer({ port: 3141 }), });VoltAgent是框架的编排入口注册agent实例、注入logger并通过honoServer({ port: 3141 })启动一个 Hono REST 服务器默认端口 3141将 Agent 以 HTTP API 形式对外提供服务。六、模型路由amazon-bedrock/ 字符串详解6.1 可用模型速查README 与源码注释提供了常用模型 ID。Claude 系列示例// Claude models model: amazon-bedrock/anthropic.claude-3-5-sonnet-20240620-v1:0; model: amazon-bedrock/anthropic.claude-3-opus-20240229-v1:0;Llama 系列示例// Llama models model: amazon-bedrock/meta.llama3-2-3b-instruct-v1:0; model: amazon-bedrock/meta.llama3-1-70b-instruct-v1:0;Mistral 与 Titan 系列示例// Mistral models model: amazon-bedrock/mistral.mistral-large-2407-v1:0; // Titan models model: amazon-bedrock/amazon.titan-text-premier-v1:0;源码 src/index.ts 的注释中还列出了更多可选模型Claude 3.5 Haikuanthropic.claude-3-5-haiku-20241022-v1:0、Claude 3 Sonnetanthropic.claude-3-sonnet-20240229-v1:0、Claude 3 Haikuanthropic.claude-3-haiku-20240307-v1:0、Llama 3.2 1Bmeta.llama3-2-1b-instruct-v1:0、Mistral Smallmistral.mistral-small-2402-v1:0、Titan Text Expressamazon.titan-text-express-v1等。替换模型时只需修改Agent配置中的model字段即可框架与工具、内存、服务器代码无需改动——这正是 VoltAgent 避免厂商锁定的体现。6.2 模型 ID 解析规则从源码看模型路由字符串统一按provider/model格式解析见 model-provider-registry.ts 的splitModelId字符串以/分隔前半段归一化为小写 Provider ID如amazon-bedrock后半段为模型 ID。因此amazon-bedrock/anthropic.claude-3-5-sonnet-20240620-v1:0会被解析为「Amazon Bedrock 提供方 Bedrock 上的 Claude 3.5 Sonnet 模型」。解析时也会兼容provider:model的冒号写法。6.3 注册表自动刷新VoltAgent 内置ModelProviderRegistry单例内置提供方列表来自自动生成的注册表同时支持从models.dev拉取更新并缓存到本地缓存目录.voltagent/model-registry/默认 30 分钟自动刷新一次见 model-provider-registry.ts。这意味着你无需手工维护模型清单框架会动态感知新增的 Bedrock 模型。七、常见问题排查TroubleshootingAccess Denied访问被拒绝确认已在 Bedrock 控制台Model access页面开通对应模型的访问权限检查 IAM 权限策略是否包含 Bedrock 相关权限如bedrock:InvokeModel。Region 问题检查AWS_REGION是否与 Bedrock 服务及所选模型的可用区域一致不同模型可能仅在特定区域开放。限流Rate Limits注意当前 AWS 账号的 Bedrock 配额quotas生产环境建议自行实现重试逻辑retry与退避策略。八、小结通过with-amazon-bedrock示例可以看到在 VoltAgent 中接入 Amazon Bedrock 只需三步配置 AWS 凭证环境变量 → 在Agent.model中填写amazon-bedrock/model路由字符串 → 开通对应模型访问权限。框架底层的ModelProviderRegistry会自动完成ai-sdk/amazon-bedrock的加载与凭证注入而createTool、Memory、honoServer等组件则让工具调用、持久化记忆与 REST 服务开箱即用。结合仓库中的 核心注册表实现、生成式注册表 与 示例源码你可以在此基础上快速扩展出属于自己的 Bedrock Agent 应用。赞分享人工智能AI AgentAgent 框架后端多智能体RAG工具调用Agent 记忆【免费下载链接】voltagentAI Agent Engineering Platform built on an Open Source TypeScript AI Agent Framework项目地址https://gitcode.com/gh_mirrors/vo/voltagent点击查看免费下载相关推荐15分钟把30天社交讨论变成图表:last30days-skill 数据可视化完整保姆级教程15分钟把30天社交讨论变成图表:last30days skill 数据可视化完整保姆级教程 last30days skill 是一个 Claude CodeAI 技能深度研究人工智能MCP 服务LangChain4j 接入 Amazon Bedrock 嵌入模型Cohere 与 Titan 完整实战指南LangChain4j 接入 Amazon Bedrock 嵌入模型Cohere 与 Titan 完整实战指南 Amazon Bedrock 是 AWS 提供人工智能AI 应用RAGAI Agent工具调用Qwen3-Coder 实战通过 Amazon Bedrock 接入 Aider 的完整配置指南Qwen3 Coder 实战通过 Amazon Bedrock 接入 Aider 的完整配置指南 本指南聚焦于开源 AI 编程助手 Aider 如何通过 Am大模型代码模型微调模型评测强化学习上一篇Tuba 开发者深度解析Vala 语言构建的 GNOME Fediverse 客户端架构揭秘下一篇Staticgen 与其他静态生成器对比为什么选择它作为你的开发工具创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
📝

华诺云谱内容团队

资深建站顾问 · 行业研究员

10年+企业数字化服务经验,专注智能建站、SEO优化与品牌营销,持续输出建站技巧、行业洞察与营销干货,已帮助5000+企业实现数字化增长。

你可能需要的服务

订阅华诺云谱资讯周报

每周一封,精选建站技巧、SEO与营销干货,直达邮箱。已有 8,000+ 企业主订阅,助你少走弯路。