智能体在演示时能调用一次 API,不代表它已经准备好上线:用户换一个会话后偏好还在吗?工具超时会不会重复下单?模型是否能读取不属于当前用户的数据?这些问题往往比“让模型回答”更费工程时间。
Amazon Bedrock 提供了几条不同的智能体路径。本文以 Amazon Bedrock Agents 为例,搭建一个查询订单状态的小任务,用它检查跨会话记忆、工具调用和失败处理;同时说明托管能力替你省下什么,以及哪些生产责任仍然需要自己承担。
托管智能体替你做了什么
自己编排模型调用时,通常要实现模型与工具之间的循环、会话状态管理、记忆存储和检索,以及调用链监控。使用 Bedrock Agents,可以把任务拆解、模型推理与工具调用的部分编排交给服务,并使用其记忆保留能力和 Amazon Bedrock Guardrails 等防护机制。
这不等于业务自动获得安全保证:工具权限、用户身份校验、数据隔离、重试策略和费用控制仍由你设计。模型也不保证每次都选择正确的工具或参数,必须通过测试和服务端校验兜底。
注意区分产品:Bedrock Agents 是托管智能体服务;Bedrock AgentCore 则提供运行时、内存、身份等可组合能力,适合需要自选框架和模型的团队。二者的内存配置和接口不能直接混用。另有面向特定模型的 Bedrock 托管代理方案,其开放状态应单独确认。
以下步骤以控制台操作为主。区域、模型支持、功能开放状态和计费会变化;手头资料未提供可核实的检索日期,因此本文不声称这些信息已按发布日期核验。正式部署前,请记录核验日期,并以 AWS 官方区域支持、模型访问和定价页面为准。
准备账号、区域和权限
先选定一个测试用 AWS 账号与区域,在同一区域确认 Bedrock Agents、目标模型、记忆能力及工具所需服务可用。不要只确认“模型可以调用”:模型可用不一定代表它支持你需要的智能体功能。
接着完成以下准备:
- 按当前控制台提示开通或确认目标模型访问权限,并检查账号配额。
- 创建智能体使用的服务角色,只授予调用目标模型及所需资源的权限;调用者则需要相应的智能体调用权限。
- 准备工具执行环境。下面示例使用 AWS Lambda,并为函数配置独立的最小权限角色。
- 如使用真实订单数据,提前明确数据存储区域、访问身份和日志中允许保留的字段。
实际生产中,用户身份应由应用的认证系统提供,不能相信模型从对话中提取的用户 ID。工具服务必须自行验证该用户是否有权查询指定订单。
定义一个只读工具
示例任务是:用户先告诉智能体“我喜欢简短回答”,之后在新会话中询问某个测试订单的状态。智能体需要调用工具查询,再尽量沿用回答偏好。
先创建一个测试用 Lambda 函数。它只接受 order_id,只返回模拟数据,不连接真实订单系统:
import json
def lambda_handler(event, context):
parameters = {
item["name"]: item.get("value", "")
for item in event.get("parameters", [])
}
order_id = parameters.get("order_id", "")
if order_id == "TEST-001":
result = {"order_id": order_id, "status": "已发货"}
else:
result = {"order_id": order_id, "status": "未找到测试订单"}
body = {
"TEXT": {
"body": json.dumps(result, ensure_ascii=False)
}
}
response = {
"actionGroup": event["actionGroup"],
"function": event["function"],
"functionResponse": {"responseBody": body},
}
return {"messageVersion": "1.0", "response": response}
在 Bedrock Agents 控制台创建智能体,选择模型并填写指令,例如:
查询订单状态时使用订单查询工具;不得编造查询结果。工具不可用时明确告知用户,不要声称查询成功。
然后添加一个使用 Lambda 的操作组,定义函数 get_order_status,将 order_id 设为必填字符串参数,并描述它只用于查询测试订单。按照控制台提示配置智能体调用该 Lambda 的权限,保存并准备智能体。
这段代码适合验证链路,不适合直接连接生产数据:真实工具还需要认证、授权、输入校验、超时控制和审计。尤其不能因为用户在提示词中给出订单号,就默认其有权查看订单。
设置记忆与超时边界
在智能体配置中启用记忆保留,并根据控制台提供的选项设置保留时间。会话上下文不等于持久内存:前者解决同一会话中的连续对话,后者用于在不同会话之间保留可用信息。记忆通常是经过处理的上下文,不应当作完整、精确的业务数据库。
上线前至少明确三件事:
- 身份隔离:由应用将稳定的记忆标识与已认证用户绑定,不允许客户端任意指定他人的标识。
- 保留与删除:按数据分类设定保留期限,确认删除用户数据时,记忆和相关日志如何一并处理。
- 敏感信息:不要依赖提示词阻止敏感数据进入记忆;应在应用和工具层控制可发送、可保存的内容。
超时也要分层考虑:客户端等待时间、工具执行时间和下游服务的超时应协调设置,并留出处理失败的余量。具体可调项以当前服务和 SDK 文档为准。对于只读查询,可以在确认错误可重试时有限重试;对于创建订单、发送邮件等写操作,必须使用幂等键或业务侧去重,不能盲目重试。
用三个测试验证链路
在控制台测试面板中运行以下检查,并查看可用的执行轨迹,而不是只看最终回答。
1. 验证工具调用
输入:
请查询测试订单 TEST-001 的状态,不要猜测。
预期结果是智能体调用 get_order_status,参数为 TEST-001,最终回答“已发货”或等价结果。再输入不存在的订单号,确认它不会把“未找到”编造成正常状态。
如果没有触发工具,先检查操作组是否已启用、函数描述和参数是否清楚,以及修改后是否重新准备了智能体。若调用失败,检查 Lambda 授权、执行日志和返回结构。
2. 验证跨会话记忆
在第一个会话中输入“以后请用简短方式回答”,正常结束会话;随后以同一用户对应的记忆标识开启新会话,再查询测试订单。
观察回答是否沿用简短偏好,同时检查工具是否仍被调用。记忆提取和使用不应被视为确定性行为:一次成功不能证明每次都成功。应多次测试,并用另一用户的记忆标识验证偏好不会串到对方会话。若没有生效,检查记忆是否启用、会话是否结束、标识是否一致以及相关功能在当前配置下是否可用。
3. 验证失败处理
在测试环境中,让 Lambda 临时返回错误或触发受控超时,然后重复查询。期望智能体明确说明暂时无法查询,而不是给出虚构状态;应用侧则应记录失败,并限制重试次数。
恢复函数后再测一次,确认链路可以恢复。对于生产写操作,还要额外测试“下游已执行成功、但响应丢失”的情况,确保重试不会造成重复执行。
发布前的部署检查
准备发布前,将测试环境中的配置整理成一份可复核清单:
- 日志与可观测性:关联用户请求、智能体调用、工具执行和错误记录;检查轨迹能否定位问题,同时避免在日志中长期保存令牌、个人信息和完整敏感对话。
- 权限与安全边界:确认调用者、智能体角色和 Lambda 角色各自只有必要权限;对工具参数和返回内容做服务端校验。Guardrails 可以增加防护,但不能代替授权和数据隔离。
- 失败与重试:为超时、限流、工具报错准备用户可理解的反馈;区分可重试错误与不可重试错误,限制重试次数,并为写操作设计幂等机制。
- 成本与 token:按目标区域的实际价格估算模型输入、输出、工具调用及相关存储和计算费用;记忆、日志等也可能产生费用。用代表性任务统计多步调用的 token 消耗,设置预算和告警。
- 数据驻留:核对模型推理、记忆、工具数据和日志分别位于哪里,并确认所选模型及调用方式是否满足组织的数据处理要求。
- 变更与回滚:记录模型、指令、操作组和权限配置;发布前运行固定测试集,并保留回滚到上一可用版本的方式。
完成这些检查后,才算验证了一个最小闭环:智能体能查到测试订单,跨会话偏好有可观察的效果,工具失败时也不会编造结果。接下来可以逐步接入真实只读数据,再考虑有副作用的操作;每增加一个工具,都应重新检查它的权限、成本和失败边界。

评论列表 (1条):
加载更多评论 Loading...