机构名称：
¥ 1.0
图 1. 交互的基本模型。A：在与传统的非 AI 系统交互时，用户选择要执行的操作并向系统提供输入以执行该操作 (1)。系统执行操作 (2)，然后将输出提供给用户，用户根据自己的目标评估输出 (3)。B：在与 AI 交互时，用户将他们期望的结果传达给 AI (1)，AI 解释目标并执行操作以实现该目标 (2)，然后 (3) 将输出发送给用户。C：相同的人机交互周期，AI 对齐概念映射到三个步骤上：(1) 规范对齐机制为用户提供了对齐 AI 以执行特定任务的方法。(2) 流程对齐机制使用户能够修改任务的执行方式，从而可能为用户提供对特定步骤的直接控制。(3) 评估对齐机制帮助用户评估和理解输出。
交互式人工智能对齐：规范、流程和评估对齐
主要关键词
相关文件推荐
