详细内容或原文请订阅后点击阅览
Trinity：为残疾学生提供智能人工智能驱动的过渡规划
了解 University Startups 及其 AWS 合作伙伴如何将 Trinity（一种针对残疾学生的对话式 AI 解决方案）扩展为 Amazon Bedrock 上的无服务器多代理架构，从而为美国各地的学区制定与 IDEA 一致的过渡计划。
来源:亚马逊云科技 _机器学习本文由来自 University Startups（University Startups、g/d/n/a 和 AWS 之间的合作伙伴）的 Marc Steren、Odina Salihbaeva 和 Aashrit Surapaneni 共同撰写。
Trinity 是一种对话式人工智能解决方案，可帮助残疾学生掌控自己的高等教育规划。它由 University Startups 开发，该公司成立于 2020 年，其信念直截了当：残疾学生应该有一条清晰、个性化的前进道路。该组织与美国各地的中学生合作，将人工智能驱动的过渡规划与职业准备课程相结合，帮助年轻人将自己的优势转化为真正的未来。
在这篇文章中，我们探讨了大学初创企业有效扩展 Trinity 的历程，因为数十个学区已加入其中，复杂性也超出了最初的架构。
为了将 Trinity 投入生产，University Startups 与 g/d/n/a (gdna.io) 合作，g/d/n/a (gdna.io) 是一家在 AWS 原生基础设施和代理 AI 交叉领域运营的生成式 AI 前向 AWS 合作伙伴。 g/d/n/a 专门帮助初创公司快速启动、安全扩展和正确构建，涵盖代理 SaaS 交付、生成式 AI 咨询和 CloudOps 优化。
Trinity 专注于建立个性化教育计划（IEP）。 IEP 是由学生家长、教师和专家制定的法律强制文件，旨在支持满足学生的教育需求。学生无需填写静态的 IEP 表格，而是与 Trinity 交谈，探索他们的兴趣、优势和目标，并制定符合《残疾人教育法》(IDEA) 的个性化过渡计划。
详细了解大学初创公司如何在 Amazon Bedrock 上构建 Trinity。在第一年里，三一学院就接触到了美国十几个州的教育工作者和学生。目前正在向沙特阿拉伯和科威特进行国际扩张。
扩展 Trinity 的挑战
残疾学生的过渡计划是一项联邦监管流程，受《残疾人教育法》(IDEA) 管辖。它涉及在高等教育、就业、独立生活和社区参与方面制定细致入微的目标。支持这一过程的人工智能系统需要准确、情境感知、合法一致，并且可供具有广泛能力的学生使用。在 Trinity 能够大规模运营之前，必须解决三个核心挑战。
单个模型无法承载完整的工作流程
早期的原型将学生入学、职业探索、合规性检查和计划编写全部集中在一个提示中。在生产过程中，检索质量、教学语气和监管要求在同一上下文窗口中竞争。这意味着任何一个域的故障都可能破坏整个学生会话，导致幻觉或不准确的信息。
通用建议不够好
向残疾学生推荐大学、职业和培训项目需要同时按地理位置、残疾支持服务、项目成本、教育水平和职业定位进行筛选。没有现成的检索工具可以可靠且低延迟地完成此操作。
合规性和数据保护是不容协商的
解决方案概述
架构概述
该架构展示了由 Amazon Bedrock 提供支持的多代理解决方案，提供有针对性的指导的工具和数据以及其他辅助功能。
图 1：Trinity 在 AWS 上的无服务器多代理架构
多代理架构
特殊教育中的学生记录必须受到健康保险流通和责任法案 (HIPAA) 标准以及家庭教育权利和隐私法案 (FERPA) 的残疾相关数据保护的保护。随着 Trinity 架构的发展，从第一天起就必须将字段级加密、严格的基于角色的访问和自动数据保留控制构建到基础中。
大学初创公司定义了产品设计规范和通用学习设计 (UDL) 标准。 g/d/n/a 在 AWS 上交付了完整的工程构建，从基础设施和 AI 编排到合规性控制和教育者仪表板，从而形成了一个完全无服务器的架构，可以根据 University Startups 服务的地区进行扩展。
学生通过通过 REST 和 WebSocket 连接到 Amazon API Gateway 的 Web 客户端访问 Trinity，计算在 AWS Lambda 上无服务器运行。 Amazon Bedrock 与 Claude 3.5 Sonnet 为 AI 交互提供支持，对话状态存储在 Amazon DynamoDB 中。 Amazon Polly 为受益于音频的学生大声朗读回答，Amazon Transcribe 将学生的口头输入转换为文本，以实现完全可访问性，而无需更改后端逻辑。身份验证通过 Amazon Cognito 与 Canvas LTI 1.3 联合进行学校单点登录。
在整个架构中，负责任的人工智能措施已经就位，包括用于内容过滤和减少幻觉的 Amazon Bedrock Guardrails。有关按 AWS 区域划分的 Amazon Bedrock 上模型的可用性，请参阅 Amazon Bedrock 中按 AWS 区域划分的支持的模型。
关键的架构决策是从单一大型语言模型 (LLM) 迁移到分层六代理系统。这些代理通过与工具和数据集通信来提供上下文建议来处理专门的任务。
g/d/n/a 设计了一个系统，其中每个专业代理都有明确定义的职责，在单个协调器下进行协作：
该架构提供了领域焦点、更好的检索基础和路径感知排序。专门的整合步骤将客服人员的输出整合到一个内部一致的过渡计划中，因为客服人员使用相同的共享学生档案进行工作，并始终由 DynamoDB 会话记录提供支持。
两阶段管道
Trinity 的工作流程将推荐与计划生成分开。在第一阶段，学生完成四段的摄入对话后，协调器会路由到适当的主要代理，该代理返回根据学生的上下文过滤的五到十个排名选项。在第二阶段，确认选择后，所有代理都贡献自己的计划部分。 Orchestrator 将输出整合为结构化的、与 IDEA 一致的 IEP 过渡计划，该计划可以在五到十秒内导出为格式化的 PDF。实时 WebSocket 层使教育者的 UI 始终保持响应能力。
混合知识检索
设计合规性
g/d/n/a 构建并维护了三个专门构建的 Amazon Bedrock 知识库，以及完全托管的检索增强生成 (RAG) 功能。代理发出检索和生成请求，因此答案与实际记录相关联，而不仅仅是模型参数知识。检索使用四因素混合评分模型：语义相似性 (30%)、关键字匹配 (25%)、位置偏好 (20%) 以及残疾支持可用性、成本和教育水平等计划属性 (25%)。查询在检索之前经过 AI 扩展，低于 25% 相关性阈值的结果将被完全过滤掉。
g/d/n/a 从一开始就将 Trinity 的合规层构建到了基础中。该系统通过每年轮换密钥的 AWS Key Management Service (AWS KMS) 字段级加密来帮助保护敏感的学生信息。这种加密涵盖个人身份信息 (PII)，包括姓名、残疾类型、住宿和学校联系方式。
安全性通过遵循最小权限原则的 AWS Identity and Access Management (IAM) 策略进行扩展。每个 Lambda 函数仅接收必要的权限。基于角色的访问控制在服务器端强制执行数据边界：超级管理员可以跨学区访问系统范围的指标，协调员可以查看学区特定的数据，学校工作人员可以查看学校的学生信息，学生只能访问自己的课程和计划。
对于身份验证，g/d/n/a 使用 LTI 1.3 将 Trinity 直接集成到 Canvas 中，而不是创建单独的登录凭据。虽然 Canvas 充当身份源，但 AWS 通过 Lambda 支持的自定义 OpenID Connect (OIDC) 提供商、API 网关和 Cognito 管理身份验证流程，从而在学校现有基础设施中创建流畅的登录体验。
影响
在各个学区，Trinity 在学生能动性、教育者效率和 IEP 合规性方面取得了可衡量的成果。
学生机构
通过圣三一的经历，学生可以实现自己未来目标的代理权。学生们不是通过书面的计划来实现自己的目标，而是通过引导性对话来实现自己的目标。该对话通过技能矩阵映射相关支持，并将其与 30,000 多个大学选项、1,000 多个职业和 5,000 多个培训项目联系起来，以使这些目标具体化且可实现。
“它帮助学生专注于职业的长期目标和可行的步骤。”
— 特米卡·布朗，P10X
“Trinity 帮助学生想象职业道路。”
— Marna Dale，Plaquemines
教育者的有效性
通过 Trinity，教育工作者可以提供更高效的 IEP 规划流程，将时间集中在学生的具体需求上。通过将学生调查、职业发现和合规文档自动化到单个指导会话中，Trinity 在十分钟内提供有意义的学生参与和 IEP 过渡合规性，无需分布式资源或手动协调。
“合规性、易用性和职业准备课程 — 一起，而不是权衡。”
— 玛丽·艾伦，Plaquemines
已在现场验证
在任何学校上线之前，特殊教育教师和过渡协调员都会根据真实的 IEP 场景对 Trinity 进行压力测试。他们的反馈证实了核心架构决策：多代理设计为学生提供了低延迟的准确结果。
结论
每个学生都应该拥有一条清晰、个性化的前进道路。三位一体就是这种情况大规模发生的方式。
关于作者
萨迪亚·艾哈迈德
Trinity 是三种功能共同作用的结果：大学初创公司在特殊教育过渡规划方面的领域专业知识、g/d/n/a 的多代理架构工程，以及 AWS 提供的可扩展性、安全性和托管代理 AI 服务。
此次合作开发了一款生产级应用程序，专为真正的 IEP 规划而构建，专为具有广泛能力的学生而设计，其架构无需重建即可扩展到新的监管环境。 Trinity 现在正在向过渡规划管理网络进行更深入的扩展，推出沙特阿拉伯和科威特的本地化服务，并扩展学习管理系统 (LMS) 连接，以便更多地区可以从他们已经使用的工具中访问 Trinity。
要了解有关如何开始在 Amazon Bedrock 上使用代理的更多信息，请参阅 Amazon Bedrock AgentCore。
请访问 University Startup 的网站，了解有关特殊教育规划的更多信息。请访问 g/d/n/a 的网站了解更多信息。
Sadia 是 AWS 的解决方案架构师，支持初创公司将伟大的创意转化为可扩展的解决方案，重点关注生成式 AI。她还热衷于教育下一代技术创新者。 Sadia 毕业于伊利诺伊大学厄巴纳-香槟分校，获得计算机科学硕士学位，空闲时间喜欢绘画。
瓦拉德·拉姆
Varad 是一名企业解决方案架构师，为 Amazon Web Services 的广告和营销垂直领域的客户提供支持。他与客户密切合作，设计可扩展且运营高效的解决方案。目前，他的主要关注点是分析并帮助客户最大限度地提高在生成人工智能方面的投资回报。在空闲时间，瓦拉德喜欢和孩子们一起骑自行车和打网球。
威尔·霍恩
Will Horn 是 g/d/n/a 的创始人、首席执行官兼执行合伙人，g/d/n/a 是一家位于南卡罗来纳州查尔斯顿的 AWS 高级合作伙伴，他利用 20 多年的技术经验（其中包括在 AWS 工作的四年时间以及在 Splunk 担任 AWS 合作伙伴策略师）领导一支由工程师、策略师和运营商组成的跨职能团队，为初创公司和中小型企业提供企业级 AWS 原生解决方案；工作之余，他喜欢合成和听音乐，以及与两个孩子共度时光。