许多组织正在考虑首次使用人工智能,或者扩展他们拥有的人工智能解决方案,以利用新的生成式人工智能 (Gen AI) 功能。在所有情况下,了解人工智能将解决的特定业务问题以及训练模型所需的数据将有助于推动需要作为 SAIF 的一部分实施的政策、协议和控制。例如,用于分析或处理现有数据的模型(例如总结分析师报告或检测欺诈的模型)可能涉及的复杂问题比用于预测消费者财务状况的模型(例如信用风险模型)要少,而后者可能会因对消费者和适用的消费者保护义务的潜在影响而带来额外的挑战。模型与最终用户交互的背景也起着重要作用。例如,与用于交易股票的模型相比,外部公开的、接受最终用户输入的人工智能模型对安全性和数据治理的要求将有所不同。除此之外,使用第三方预先构建的模型与开发和/或训练自己的模型在保护基础设施和开发平台、监控模型行为和结果、威胁检测和保护方面也会有不同的含义。
主要关键词