人工智能和机器学习通常与经过长时间训练以响应不同输入的“学习”神经网络相关联。在理想世界中,训练有素的人工智能可以“准确”地响应刺激以满足业务需求,从而减少人为干预或复杂的基于规则的编码。然而,正如现代科学基于第一原理一样,现代软件应用程序应该由明确定义的业务规则和随之而来的业务逻辑驱动,这些规则和逻辑有助于形式化验证和确认。然而,人工智能通常相当于模型和训练数据之间的统计相关性——无论做得多么仔细和善意。在最好的情况下,这种统计相关性可能导致不存在合理的先验第一原理——科学、法律、道德、伦理或其他。在最坏的情况下,统计相关性可能基于有偏见、不准确甚至错误的前提,这些前提体现在模型和训练数据中,反映了不科学、非法、不道德或不道德的现实世界偏见。
主要关键词