详细内容或原文请订阅后点击阅览

用亚马逊基岩代理实施人类在循环确认

2025年4月9日 19:46 33 Comments
X Twitter Instagram Mail

在这篇文章中，我们专门致力于使最终用户批准操作并使用内置的亚马逊基石代理功能，特别是用于提供安全有效的代理操作的HITL模式。我们使用人力资源（HR）代理示例探索可用的模式，该示例可帮助员工要求休息时间。

来源:亚马逊云科技 _机器学习
代理正在彻底改变企业如何使复杂的工作流程和决策过程自动化。亚马逊基岩代理商通过策划多步任务来帮助您加速生成AI应用程序的开发。代理使用基础模型（FMS）的推理能力将用户要求的任务分解为多个步骤。此外，他们还使用开发人员提供的指令来创建编排计划，然后通过调用公司API并使用检索增强生成（RAG）访问知识库来执行该计划，以为用户的请求提供答案。构建智能自主媒介，有效地处理用户查询，需要仔细的计划和强大的Safeguards。尽管FMS继续改善，但它们仍然可以产生不正确的输出，并且由于代理是复杂的系统，因此可能在多个阶段发生错误。例如，代理可以选择错误的工具或使用带有不正确参数的正确工具。尽管亚马逊基岩代理可以通过其推理和行动（反应）策略进行自我校正，但是重复的刀具执行对于非关键任务可能是可以接受的，但对于业务 - 关键运营（例如数据库修改）而言，可能是有风险的。在这些敏感的场景中，人类融合（HINL）的交互对于成功的AI代理人的互动是必不可少的。 HITL可以采取多种形式，从最终用户批准行动和提供反馈，到离线审查响应的主题专家以及与客户服务代表一起工作的代理商。共同的线程是维持人类的监督，并利用人类智能来改善代理的性能。这种人的参与有助于建立地面真理，验证代理在上线之前的响应，并通过反馈循环进行持续学习。在这篇文章中，我们专门致力于使最终用户能够批准采取行动并使用内置的亚马逊床架
代理的 工作的 FMS 任务分解 生成 不正确的 基岩 AI 不正确 仔细的 响应的 代理 知识库 智能 最终用户 错误的 持续学习 敏感的 人类 重复的 参数的 要求的 亚马逊 反馈 复杂的 致力于 用户 正确的 数据库 使用 自动化 提供 例如 共同的 强大的 应用程序 内置的 使复杂 代理人 关键任务 开发人员 客户服务 代理商 接受的 有风险的 计划