信用度

AI：成熟？

某人，例如在社交媒体上。证据表明，人工智能在重现其所训练数据集的社会不平等方面发挥了作用（Noble，2018 年；Moss 等人，2021 年）。有各种技术和流程来控制这些风险，这些技术和流程在第 2 章和拟议的欧盟人工智能法案附件中进行了详细讨论（布鲁塞尔，2021 年 4 月 21 日 COM，2021 a，2021 b）。在考虑道德问题时，重要的是要权衡消费者的利益与风险和成本。例如，可以创建通过聊天机器人销售的参数保险等产品。这些产品的经纪、损失调整和纠纷处理等管理费用较低，因此更便宜。由于它们是通过端到端数字流程在线销售的，因此它们也可以大规模销售，并且链接到外部数据集可以避免填写表格，从而实现近乎即时的购买。此类产品有可能提高发达国家和新兴市场的金融包容性。同时，对于对个人有如此大影响的应用程序，至关重要的是确保定期审查和测试算法，设计为对例如输入数据的外生变化具有鲁棒性，并引入适当的监督和补救机制。总的来说，我们大多数人都同意风险管理者协会的观点，他们与首席风险官举行了圆桌讨论（Maynard & Goodman，2020），并就金融包容性得出结论：“社会需要这一点才能成功”。金融包容性是一个全球公认的问题。如果没有之前的银行历史记录，这显然是不可能的。约有 20 亿人没有基本银行账户，在一些国家，很大一部分人口无法获得有用且负担得起的金融产品和服务，如支票账户、储蓄工具、贷款和保险。世界银行、20 国集团和 55 多个国家已承诺通过金融包容性全球倡议 (FIGI) 等举措推动全球金融包容性 (http://www.worldbank.org/en/topic/financialinclusion/overview#1)。传统上，潜在借款人的信用度是通过信用机构的评级以及有关其银行历史或以前贷款还款历史的信息来评估的。使用人工智能可能是解决这个问题的办法，尤其是与替代数据结合使用时，即有关人们行为的新信息来源，用于评估他们的信用度，包括手机数据 (CDR)、智能手机使用数据，以及社交媒体、文本和图像 (Kharif, 2016 ; Ruiz 等人, 2017 ; Singh 等人, 2015 ; De Cnudde 等人, 2019 )。因此，从此类数据中获得的见解可以帮助获得几乎没有或完全没有信用记录的借款人，例如年轻借款人或发展中国家的人，这些人预计不会有信用记录，并可能有助于提高全球众多个人的财务状况（Óskarsdóttir 等人，2018 年、2019 年），尽管这里也存在一些担忧（Kazeem，2020 年）。总之，在嵌入人工智能系统时，道德问题必须成为核心考虑因素，但也必须通过稳健的设计和适当的监督，与其他有价值的目标（例如提高金融包容性）取得平衡。