这项规定的基础是《欧盟宪章》第21条和第24条的基础,该条款可以防止歧视并维护弱势群体的权利。Redital 17强调,AI不应操纵由于个人条件而特别容易受到不当影响的人。该法案对提供者施加了严格的合规义务,要求他们进行影响评估,以识别和减轻对弱势群体的潜在风险。提供商还必须证明其系统的设计在最前沿的道德考虑,以确保它们不会不成比例地针对或损害特定的群体。例如,AI驱动的发薪日贷款算法通过建议没有充分风险披露的高息贷款而利用经济困扰的个人是不合规的。同样,利用AI的儿童申请鼓励过多的应用程序购买可能属于此限制。
主要关键词