Loading...
机构名称:
¥ 2.0

人工智能代理的最后一个要素是其运行的环境。环境决定了传入数据的来源和有效性,代理通过其输出影响环境(例如,对公司未来的风险评估可能会影响公司的行为)。这种反馈循环在“强化学习”中尤为重要,在强化学习中,人工智能代理通过反复试验从与环境的交互中学习,并因表现良好而获得奖励。如果将人工智能代理部署在不同的环境中,它不太可能正常运行(例如,经过训练以识别业务风险的系统在非业务环境中可能表现不佳)。因此,人工智能代理的不当行为可能是由于它部署在未经训练的环境中而导致的。

推荐引用 推荐引用 Asatiani, Aleksandre;马洛,佩卡; Nagbøl,佩·拉德伯格;彭蒂宁,埃斯科;林塔-卡希拉,塔帕尼;和 Salovaara, Antti (2020)“解释黑盒人工智能系统行为的挑战”,MIS 执行季刊:第 1 卷。 19:一号。 4、第 7 条。可参见:https://aisel.aisnet.org/misqe/vol19/iss4/7

推荐引用 推荐引用 Asatiani, Aleksandre;马洛,佩卡; Nagbøl,佩·拉德伯格;彭蒂宁,埃斯科;林塔-卡希拉,塔帕尼;和 Salovaara, Antti (2020)“解释黑盒人工智能系统行为的挑战”,MIS 执行季刊:第 1 卷。 19:一号。 4、第 7 条。可参见:https://aisel.aisnet.org/misqe/vol19/iss4/7PDF文件第1页

推荐引用 推荐引用 Asatiani, Aleksandre;马洛,佩卡; Nagbøl,佩·拉德伯格;彭蒂宁,埃斯科;林塔-卡希拉,塔帕尼;和 Salovaara, Antti (2020)“解释黑盒人工智能系统行为的挑战”,MIS 执行季刊:第 1 卷。 19:一号。 4、第 7 条。可参见:https://aisel.aisnet.org/misqe/vol19/iss4/7PDF文件第2页

推荐引用 推荐引用 Asatiani, Aleksandre;马洛,佩卡; Nagbøl,佩·拉德伯格;彭蒂宁,埃斯科;林塔-卡希拉,塔帕尼;和 Salovaara, Antti (2020)“解释黑盒人工智能系统行为的挑战”,MIS 执行季刊:第 1 卷。 19:一号。 4、第 7 条。可参见:https://aisel.aisnet.org/misqe/vol19/iss4/7PDF文件第3页

推荐引用 推荐引用 Asatiani, Aleksandre;马洛,佩卡; Nagbøl,佩·拉德伯格;彭蒂宁,埃斯科;林塔-卡希拉,塔帕尼;和 Salovaara, Antti (2020)“解释黑盒人工智能系统行为的挑战”,MIS 执行季刊:第 1 卷。 19:一号。 4、第 7 条。可参见:https://aisel.aisnet.org/misqe/vol19/iss4/7PDF文件第4页

推荐引用 推荐引用 Asatiani, Aleksandre;马洛,佩卡; Nagbøl,佩·拉德伯格;彭蒂宁,埃斯科;林塔-卡希拉,塔帕尼;和 Salovaara, Antti (2020)“解释黑盒人工智能系统行为的挑战”,MIS 执行季刊:第 1 卷。 19:一号。 4、第 7 条。可参见:https://aisel.aisnet.org/misqe/vol19/iss4/7PDF文件第5页

相关文件推荐