AI

Bedrock 托管智能体上手:持久内存、工具调用与部署检查

智能体在演示时能调用一次 API,不代表它已经准备好上线:用户换一个会话后偏好还在吗?工具超时会不会重复下单?模型是否能读取不属于当前用户的数据?这些问题往往比“让模型回答”更费工程时间。

Amazon Bedrock 提供了几条不同的智能体路径。本文以 Amazon Bedrock Agents 为例,搭建一个查询订单状态的小任务,用它检查跨会话记忆、工具调用和失败处理;同时说明托管能力替你省下什么,以及哪些生产责任仍然需要自己承担。

托管智能体替你做了什么

自己编排模型调用时,通常要实现模型与工具之间的循环、会话状态管理、记忆存储和检索,以及调用链监控。使用 Bedrock Agents,可以把任务拆解、模型推理与工具调用的部分编排交给服务,并使用其记忆保留能力和 Amazon Bedrock Guardrails 等防护机制。

这不等于业务自动获得安全保证:工具权限、用户身份校验、数据隔离、重试策略和费用控制仍由你设计。模型也不保证每次都选择正确的工具或参数,必须通过测试和服务端校验兜底。

注意区分产品:Bedrock Agents 是托管智能体服务;Bedrock AgentCore 则提供运行时、内存、身份等可组合能力,适合需要自选框架和模型的团队。二者的内存配置和接口不能直接混用。另有面向特定模型的 Bedrock 托管代理方案,其开放状态应单独确认。

以下步骤以控制台操作为主。区域、模型支持、功能开放状态和计费会变化;手头资料未提供可核实的检索日期,因此本文不声称这些信息已按发布日期核验。正式部署前,请记录核验日期,并以 AWS 官方区域支持、模型访问和定价页面为准。

准备账号、区域和权限

先选定一个测试用 AWS 账号与区域,在同一区域确认 Bedrock Agents、目标模型、记忆能力及工具所需服务可用。不要只确认“模型可以调用”:模型可用不一定代表它支持你需要的智能体功能。

接着完成以下准备:

  1. 按当前控制台提示开通或确认目标模型访问权限,并检查账号配额。
  2. 创建智能体使用的服务角色,只授予调用目标模型及所需资源的权限;调用者则需要相应的智能体调用权限。
  3. 准备工具执行环境。下面示例使用 AWS Lambda,并为函数配置独立的最小权限角色。
  4. 如使用真实订单数据,提前明确数据存储区域、访问身份和日志中允许保留的字段。

实际生产中,用户身份应由应用的认证系统提供,不能相信模型从对话中提取的用户 ID。工具服务必须自行验证该用户是否有权查询指定订单。

定义一个只读工具

示例任务是:用户先告诉智能体“我喜欢简短回答”,之后在新会话中询问某个测试订单的状态。智能体需要调用工具查询,再尽量沿用回答偏好。

先创建一个测试用 Lambda 函数。它只接受 order_id,只返回模拟数据,不连接真实订单系统:

纯文本
import json

def lambda_handler(event, context):
    parameters = {
        item["name"]: item.get("value", "")
        for item in event.get("parameters", [])
    }
    order_id = parameters.get("order_id", "")

    if order_id == "TEST-001":
        result = {"order_id": order_id, "status": "已发货"}
    else:
        result = {"order_id": order_id, "status": "未找到测试订单"}

    body = {
        "TEXT": {
            "body": json.dumps(result, ensure_ascii=False)
        }
    }

    response = {
        "actionGroup": event["actionGroup"],
        "function": event["function"],
        "functionResponse": {"responseBody": body},
    }
    return {"messageVersion": "1.0", "response": response}

在 Bedrock Agents 控制台创建智能体,选择模型并填写指令,例如:

查询订单状态时使用订单查询工具;不得编造查询结果。工具不可用时明确告知用户,不要声称查询成功。

然后添加一个使用 Lambda 的操作组,定义函数 get_order_status,将 order_id 设为必填字符串参数,并描述它只用于查询测试订单。按照控制台提示配置智能体调用该 Lambda 的权限,保存并准备智能体。

这段代码适合验证链路,不适合直接连接生产数据:真实工具还需要认证、授权、输入校验、超时控制和审计。尤其不能因为用户在提示词中给出订单号,就默认其有权查看订单。

设置记忆与超时边界

在智能体配置中启用记忆保留,并根据控制台提供的选项设置保留时间。会话上下文不等于持久内存:前者解决同一会话中的连续对话,后者用于在不同会话之间保留可用信息。记忆通常是经过处理的上下文,不应当作完整、精确的业务数据库。

上线前至少明确三件事:

  • 身份隔离:由应用将稳定的记忆标识与已认证用户绑定,不允许客户端任意指定他人的标识。
  • 保留与删除:按数据分类设定保留期限,确认删除用户数据时,记忆和相关日志如何一并处理。
  • 敏感信息:不要依赖提示词阻止敏感数据进入记忆;应在应用和工具层控制可发送、可保存的内容。

超时也要分层考虑:客户端等待时间、工具执行时间和下游服务的超时应协调设置,并留出处理失败的余量。具体可调项以当前服务和 SDK 文档为准。对于只读查询,可以在确认错误可重试时有限重试;对于创建订单、发送邮件等写操作,必须使用幂等键或业务侧去重,不能盲目重试。

用三个测试验证链路

在控制台测试面板中运行以下检查,并查看可用的执行轨迹,而不是只看最终回答。

1. 验证工具调用

输入:

纯文本
请查询测试订单 TEST-001 的状态,不要猜测。

预期结果是智能体调用 get_order_status,参数为 TEST-001,最终回答“已发货”或等价结果。再输入不存在的订单号,确认它不会把“未找到”编造成正常状态。

如果没有触发工具,先检查操作组是否已启用、函数描述和参数是否清楚,以及修改后是否重新准备了智能体。若调用失败,检查 Lambda 授权、执行日志和返回结构。

2. 验证跨会话记忆

在第一个会话中输入“以后请用简短方式回答”,正常结束会话;随后以同一用户对应的记忆标识开启新会话,再查询测试订单。

观察回答是否沿用简短偏好,同时检查工具是否仍被调用。记忆提取和使用不应被视为确定性行为:一次成功不能证明每次都成功。应多次测试,并用另一用户的记忆标识验证偏好不会串到对方会话。若没有生效,检查记忆是否启用、会话是否结束、标识是否一致以及相关功能在当前配置下是否可用。

3. 验证失败处理

在测试环境中,让 Lambda 临时返回错误或触发受控超时,然后重复查询。期望智能体明确说明暂时无法查询,而不是给出虚构状态;应用侧则应记录失败,并限制重试次数。

恢复函数后再测一次,确认链路可以恢复。对于生产写操作,还要额外测试“下游已执行成功、但响应丢失”的情况,确保重试不会造成重复执行。

发布前的部署检查

准备发布前,将测试环境中的配置整理成一份可复核清单:

  • 日志与可观测性:关联用户请求、智能体调用、工具执行和错误记录;检查轨迹能否定位问题,同时避免在日志中长期保存令牌、个人信息和完整敏感对话。
  • 权限与安全边界:确认调用者、智能体角色和 Lambda 角色各自只有必要权限;对工具参数和返回内容做服务端校验。Guardrails 可以增加防护,但不能代替授权和数据隔离。
  • 失败与重试:为超时、限流、工具报错准备用户可理解的反馈;区分可重试错误与不可重试错误,限制重试次数,并为写操作设计幂等机制。
  • 成本与 token:按目标区域的实际价格估算模型输入、输出、工具调用及相关存储和计算费用;记忆、日志等也可能产生费用。用代表性任务统计多步调用的 token 消耗,设置预算和告警。
  • 数据驻留:核对模型推理、记忆、工具数据和日志分别位于哪里,并确认所选模型及调用方式是否满足组织的数据处理要求。
  • 变更与回滚:记录模型、指令、操作组和权限配置;发布前运行固定测试集,并保留回滚到上一可用版本的方式。

完成这些检查后,才算验证了一个最小闭环:智能体能查到测试订单,跨会话偏好有可观察的效果,工具失败时也不会编造结果。接下来可以逐步接入真实只读数据,再考虑有副作用的操作;每增加一个工具,都应重新检查它的权限、成本和失败边界。

热门话题

52okp 是一名关注人工智能、开源软件与效率工具的技术内容创作者,长期实践 Stable Diffusion、ComfyUI、AI 智能体、MCP、Codex 和各类开源项目。通过实际安装、配置与测试,整理可复现的操作教程、问题排查方法和工具使用经验。

登录用户才能发表评论! 登录账户

取消回复

评论列表 (1条):

加载更多评论 Loading...

延伸阅读:

该用 LLM 还是 AI 智能体:按任务判断并搭最小流程

很多人第一次把大模型接进工作流时都会纠结同一个问题:这件事到底该写个普通提示词调用 LLM,还是干脆搭一个 AI 智能体...

52okp
2026-10-15

garden-skills 项目拆解:个人开发者做的技能包框架,值得接入自己的工作流吗

上周调好的一套规矩——提交信息按什么格式写、改完代码跑哪几条测试、发布前核对哪些字段——这周开个新会话,模型又变回一张白...

52okp
2026-11-12

GLM-5.2 长上下文怎么用:百万 token 的切分与取舍

把整份代码库、几百页文档一次性塞进上下文,然后提问,结果模型给出的答案反而比只喂三页时更不准——这是不少开发者在拿到百万...

52okp
2026-10-14

Bedrock 调用 OpenAI 模型:鉴权与成本核查

账号里明明已经开通了 Bedrock,代码跑起来却先给你一个 AccessDeniedException,换成另一个模型...

52okp
2026-11-11

端侧 0.8B 智能体模型 BotPsy:本地部署与工具调用实测

0.8B 模型能不能在本地可靠调用工具?BotPsy 值得实测的地方,不是它能不能聊几句,而是能否把“帮我算一下”变成格...

52okp
2026-11-14
    返回顶部