详细内容或原文请订阅后点击阅览
教导工人安全地不信任人工智能：生产前的低风险错误实践
如何在人工智能培训中构建安全故障实践：技术人员会接受的看似合理的错误答案，为什么它们的编写成本比正确的答案更高，以及为什么因一次失误而报废工具的行业工人是大多数课程从未计划过的失败。这篇文章首先发表在 eLearning Industry 上。
来源:eLearning行业 | 在线教育博客一个错误的零件编号，一名工人将其注销
一个细心的工人一旦被工具刺伤，通常会悄悄地停止伸手去拿它，你不能真正责怪他们。我和一位零件柜台代表一起工作，他正是这样做的。有一次，一个查找工具给了他一个很接近但错误的零件号，一名承包商开车四十分钟回来更换它。他在花费更多之前抓住了它，订单得到修复，并且该工具再也没有被打开过。他并不固执。他正在做的正是你希望一个细心的人对一个已经让他失望过一次的消息来源所做的事情。
问题在于失误发生在哪里。这发生在生产中，发生在真实的工作中，结果上有他的名字。如果这种情况发生在培训中，在某个不需要花费任何费用的地方，他也会吸取同样的教训并保留该工具。这就是安全故障设计背后的整个理念，也是大多数人工智能训练完全跳过的部分。
让他们在免费的地方被烧毁
新飞行员在模拟器中花费数小时击毁不真实的飞机，然后才触及跑道。没有人认为这样做的目的是让他们害怕飞行。目标是让他们感受到什么是停顿，糟糕的读数是什么样的，以及如何在错误只会重置屏幕的地方恢复。当他们载客时，可怕的时刻已经很熟悉了。
人工智能工具也需要同样的东西。工作人员应该在培训期间（而不是在地板上）自信地得出错误答案，这样，当工具第一次出现故障时，他们就可以预料到并可以幸存。你希望他们走出去的教训不是“相信这个”或“不要相信这个”。这就是“这个工具往往会失败的原因，我是这样发现的。”你只能通过向他们展示失败来教导他们这一点。