人工智能 (AI) 和基于算法的决策 (ADM) 应用已经改变了消费者的生活。例如,在线视频平台使用算法来个性化用户的内容和推荐;银行使用算法来追踪可疑活动并防止欺诈;公共当局利用人工智能和 ADM 来处理和回答公民的要求;智能手机集成了虚拟个人助理,社交媒体应用程序根据对消费者过去行为、在线活动和互动的自动分析来组织消费者在时间线上看到的信息。我们仍处于社会数字化转型的开始阶段。虽然人工智能可能为消费者提供许多创新机会,但其广泛使用带来了影响消费者和整个社会的深刻社会、法律和经济挑战。强有力的监管框架对于确保人工智能的使用得到充分监管和控制是必不可少的。它应该促进创新,并确保消费者能够充分享受社会数字化转型的好处,但要免受人工智能带来的风险。
Agustín Reyna 是欧洲消费者组织 (BEUC) 的法律和经济事务总监。BEUC 的主要任务是作为布鲁塞尔强有力的消费者代言人,并确保消费者利益在所有欧盟政策中得到应有的重视。Agustín 负责监督五个政策团队(金融服务、数字、消费者权利、竞争以及消费者救济和执法),并协调该组织在竞争法执法方面的工作。Agustin 是跨大西洋消费者对话知识产权委员会的欧盟主席,该网络由 75 多个代表美国和欧盟消费者利益的组织组成。自 2018 年起,他担任国际竞争网络委员会的非政府顾问。他拥有不来梅大学法学博士学位,并经常在科学期刊上发表与欧盟法律相关的问题。
监管人工智能对于确保高水平的消费者保护以及我们社会的公平、安全和可持续发展至关重要。BEUC 欢迎委员会在这方面采取主动行动。但是,《人工智能法案》提案需要进行实质性改进,以保证消费者获得所需的保护,并可以相信人工智能会尊重他们的权利和自由。本立场文件包含一系列针对委员会《人工智能法案》提案的建议(范围、定义、协调、禁止的做法、风险和一致性评估以及人工智能系统的其他义务、标准化、执法等)。BEUC 的主要建议:提案必须具有更广泛的范围,并施加适用于所有人工智能系统的基本原则和义务,例如关于公平性、问责制和透明度。• 应扩大《人工智能法案》的范围,以充分监管除目前被归类为“高风险”的人工智能系统之外的其他人工智能系统,例如智能电表、人工智能驱动的联网玩具、虚拟助手或组织人们在社交媒体上看到的内容的人工智能。• 欧盟使用的所有人工智能系统,包括中风险和低风险系统,都应遵守《人工智能法案》中确立的一套共同原则(例如透明度、公平性、非歧视性)。• 应扩大附件三中现有的“高风险”应用列表,以包括其他人工智能应用。例如,用于评估保险费的人工智能以及人工智能支付和借记收集服务。
可再生能源指令只能促进具有额外可再生电力产生的可再生氢和电子费用,并且仅在那些代表脱碳的唯一可行途径(例如,高温工业过程和某些运输模式,例如航空和海上运输)。虽然有几个利益相关者认为碳捕获和存储及其应用(例如为蓝色氢的生产)将需要脱碳来使某些最终使用部门(例如行业)认为,Beuc认为可再生能源指令的唯一目标应保持促进可持续的可持续可再生能源。应淘汰化石燃料的所有补贴,因为化石燃料不应在欧洲的能源组合中发挥作用。这也是为了确保消费者不会被不明确的信息或不可靠的价格信号误导,这可能会导致他们相信低碳燃料是可持续的。
• BEUC 和 ANEC 欢迎委员会为制定新的最新的计算机生态设计和能源标签要求而做出的努力。我们呼吁委员会尽快完成这项工作,并确保尽早实施新规则。 • 需要进一步改进,以确保消费者能够继续使用他们的产品更长时间,并在必要时轻松维修。更长的软件支持是避免软件导致计算机过早过时的关键。 • 我们要求委员会确保拟议的最低功率限制措施也能提高大多数普通计算机的能源效率,而不仅仅是高性能计算机的能源效率。 • 能源标签应使消费者能够清楚地比较产品之间的信息。委员会应在将标签推向市场之前与消费者一起测试标签,以确保其符合用途。 • 我们支持制定计算机维修评分,但我们遗憾地看到它没有充分考虑维修成本,这仍然是消费者维修的主要障碍。
eu农业食品愿景在消费者方面短视欧盟委员会为农业和食品部门发布了其路线图,直到今天2040年,为未来五年的未来倡议奠定了基础。愿景是在战略对话之后进行的,在整个食品供应链中收集了主要参与者,这为消费者带来了令人鼓舞的结果,包括共同承诺,以促进获得健康和可持续的食物。令人遗憾的是,这种愿景在需求方面令人失望。使健康,更可持续的饮食的行动对消费者来说是简单且负担得起的选择,尽管这是欧洲大多数消费者关注的问题,但在很大程度上却留给个别成员国。委员会提供年度对话,讨论诸如产品食谱和食品负担能力之类的问题。消费者团体将继续呼吁欧洲决策者确保在未来五年内仍能在这些领域取得进展。在积极的看来,Beuc欢迎审查动物福利法,扩大食品起源标签并加强进口与欧盟标准的一致性的承诺。BEUC总干事AgustínReyna评论说:“委员会缺少机会使欧盟更接近消费者。 在过去的几年中,成人和儿童的肥胖水平飙升,这种愿景可能会更大胆地对食品负担能力和更健康的饮食进行大胆。 思考包装上的标签,以帮助消费者快速在商店中发现健康的选择或削减不健康的食物广告,以帮助父母教孩子的良好饮食习惯。AgustínReyna评论说:“委员会缺少机会使欧盟更接近消费者。在过去的几年中,成人和儿童的肥胖水平飙升,这种愿景可能会更大胆地对食品负担能力和更健康的饮食进行大胆。思考包装上的标签,以帮助消费者快速在商店中发现健康的选择或削减不健康的食物广告,以帮助父母教孩子的良好饮食习惯。公司和零售商也缺少推动力,使消费者更具吸引力的饮食量,并使用更多的水果,蔬菜和豆类。” “消费者不应该是唯一付款的人。我们与委员会完全达成共识,即在整个食品供应链中必须公平地共享过渡成本。但是,委员会的行动通过将农业食品部门的大部分免于竞争规则,旨在保护消费者免受非法卡特尔的竞争规则。我们寻求农业食品链天文台,以提高价格和利润率。”
人工智能(以下简称“AI”)越来越多地出现在消费者的日常生活中,预计将为他们带来诸多好处。它可以为新产品和服务提供动力,帮助让日常生活变得更轻松、更轻松,例如通过个性化服务、增强现实应用、有助于更快检测疾病的人工智能医疗工具或自动驾驶汽车。然而,人工智能的广泛使用也给消费者带来了重大挑战和风险。其中一个关键问题是,如果出现问题,消费者因人工智能系统而遭受损失,谁来承担责任。由于人工智能的特殊性,例如其复杂性、不透明性、自主性,以及其生命周期中涉及的参与者数量,消费者将很难就人工智能系统造成的任何损害索取赔偿。消费者可能很难识别人工智能系统造成的损害,例如,由于人工智能系统的偏见标准而拒绝以较低的价格投保,消费者看不到这一点。消费者甚至可能不知道人工智能系统在特定决策中发挥了作用,并且是造成损害的原因。现行的欧盟产品责任指令 1(以下简称“PLD”)不适合应对包括人工智能在内的新技术带来的挑战。该指令于 1985 年首次通过,当时市场上的产品与今天的产品截然不同。为了解决这些问题,欧盟委员会于 2022 年 9 月发布了两项提案,以使欧盟责任规则适应数字环境:一项是修订产品责任指令 2 的提案(以下简称“PLD 提案”),另一项是使国家责任规则适应人工智能 3 带来的挑战的提案(以下简称“AILD 提案”)。BEUC 正在两份单独的立场文件中讨论这两个提案。本文重点介绍 AILD 提案。我们对 PLD 提案的立场可以在此处阅读。在这两份立场文件中,我们都提出了几项政策建议,以确保这两个提案创建一个连贯的法律框架,为消费者提供高水平的保护。
技术为人们的生活带来了诸多改善,但另一方面,企业对消费者和公民生活的控制力却只增不减。数据和人工智能的复杂使用使消费者在企业面前处于越来越弱势的地位,因为企业控制着选择环境并影响消费者的在线行为。随着消费者在日常社会活动中越来越依赖数据驱动的环境,不断接触货币化驱动的算法,为每个人提供个性化的市场和世界体验,这种算法已经被视为有害后果,降低了消费者和公民对市场和民主社会的信任。欧盟委员会对消费者法的“数字公平”适用性检查为新一代消费者保护立法铺平了道路,这将扭转消费者在数字技术主导的世界中无能为力的负面趋势。经过修订和更新的消费者法应能够有效应对消费者在数字世界中面临的风险和挑战,其次,在《通用数据保护条例》(GDPR)、《数字服务法》(“DSA”)、《数字市场法》(“DMA”)、《数据治理法》(“DGA”)以及即将出台的法律(如《数据法》(“DA”)和《人工智能法》(“AIA”))所涵盖的领域发挥立法安全网的作用。为了响应消费者法“数字公平”适用性检查框架内的公众咨询,本文汇集了 BEUC 对咨询的意见。它由两个主要部分组成,分别致力于高级建议和具体考虑。第一部分提出了横向建议,涉及消费者法在当今世界的地位、它面临的风险以及它必须如何发展以适应现实。欧盟委员会的适用性检查必须从头开始,即重新思考欧盟消费者法的概念。第二部分旨在解决具体问题,也解决欧盟委员会为健康检查工作列出的问题,但要更进一步。我们将在咨询时间范围之外继续为更大的健康检查过程提供意见。我们正在准备新的研究和新的立场,对所提出的概念进行更深入的研究,并将在稍后阶段发布。