机构名称：
¥ 2.0
人为智能的代理是可以自主感知并在环境中采取行动的系统[61]。虽然对AI代理的研究追溯了数十年[61，70，82]，但生成基础模型的最新进展可以根据Natu语言提示输出新颖的文本或图像，为广泛发展的代理商的广泛发展和部署铺平了道路。授予访问Internet的能力，1通过API，2，甚至生成和执行计算机代码，与其他应用程序连接，3今天的AI代理可以执行诸如调度会议，预订航班，4订购食品，5或购买杂货店，采取影响数字和物理领域的动作。多代理体系结构中正在进行的开发进一步扩大了代理的功能和用例[80，82，22]。以及代理商在开放世界中采取行动并代表用户完成目标的能力更大的潜在故障模式和相关费用[68，88，24]。实际上，现代应用程序将以代理为中心的活动扩展到高风险场景。例如，可以代表用户购物的代理可以以意想不到的方式花钱，也可以随时泄露用户的地址，信用卡号或其他敏感信息。可以执行计算机代码的代理可以损坏文件，更改重要设置，覆盖家庭照片或工作分配，并采取危害安全性的措施。如果没有适当地阐明代理的功能和限制，并且能够验证其操作的能力，则用户可以过度汇总代理，从而导致用户要求代理执行无法完成的任务。尤其是在失败成本高昂或可能发生的情况下，至关重要的是，建立允许用户清楚地表达其目标，偏好和构成的代理人对代理商的目标，并形成准确的心理模型，以表明代理商的行为方式。用户还应该能够监视代理商的行为，并根据需要有效地指导代理商。换句话说，必须设计与多个代理的用户，代理和系统的有效协作，以支持透明度和控制。启用透明度和控制的关键是有效的双向交流，旨在建立有关用户目标的共同基础（例如，用用户请求的内容表示）以及代理商打算实现这些目标的过程[13，65]。实现共同点是一项活动，始于用户对代理商的第一次介绍，并在整个使用情况下继续进行。用户和代理商之间的通信可以帮助用户确定何时以及依赖代理的何时以及通过对话的迭代性质有关意图，能力和活动的迭代性质，可以帮助用户在采取不可撤销的动作之前识别和纠正误解。
人类通信中的挑战
主要关键词
相关文件推荐
