如何为有效代理构建护栏

了解如何设置有效的护栏以强制代理执行所需的行为“如何为有效代理构建护栏”一文首先出现在“迈向数据科学”上。

来源:走向数据科学

在许多应用程序中越来越流行。然而,将代理集成到您的应用程序中不仅仅是让法学硕士能够访问所有数据和功能。您还需要建立有效的护栏,确保代理只能访问相关数据并防止滥用功能。您需要这样做,同时还要确保模型可以有效地工作,访问必要的数据,并利用尽可能多的功能,而无需人工介入。

我写这篇文章的目标是从高层次上强调如何构建有效的代理护栏,以确保您的代理只能访问必要的数据和功能,同时保持良好的用户体验,例如,最大限度地减少人工批准代理访问的次数。在讨论护栏的一个关键组成部分:细粒度授权之前,我将首先讨论为什么护栏如此重要。接下来,我将讨论为数据构建护栏,并继续介绍函数的护栏。

此信息图突出显示了本文的主要主题。我将讨论细粒度授权、数据护栏和功能护栏,这些都是讨论人工智能代理护栏时的重要主题。图片由谷歌双子座提供。

为什么你的代理需要护栏

首先,我想描述一下为什么我们需要人工智能代理的护栏。理论上,您可以只授予代理访问应用程序中所有数据库和功能的权限,对吗?

需要护栏的原因有多种。主要原因是防止代理执行任何不需要的操作,例如删除数据库表。此外,您还需要确保座席只能访问一定范围内的数据,例如确保一个客户使用的座席无法使用另一客户的数据。

细粒度权限

    该客户 1 是否有权访问数据库表 A?用户 2 是否有权访问功能 B?组织 3 是否有权访问功能 C?

结论