详细内容或原文请订阅后点击阅览
设计价值一致的自动驾驶汽车：从道德困境到冲突敏感设计
自治系统越来越多地面临充满价值的选择。这篇博文介绍了设计“冲突敏感”自主交通代理的想法，该代理可以明确识别、推理相互竞争的道德、法律和社会价值观并据此采取行动。我们提出了价值一致的操作设计域（VODD）的概念——一个嵌入利益相关者价值层次结构和上下文移交规则的框架[...]
来源:ΑΙhub自治系统越来越多地面临充满价值的选择。这篇博文介绍了设计“冲突敏感”自主交通代理的想法，该代理可以明确识别、推理相互竞争的道德、法律和社会价值观并据此采取行动。我们提出了价值一致的操作设计域（VODD）的概念——一个将利益相关者价值层次结构和上下文移交规则嵌入到自主决策设计中的框架。
自治系统越来越多地面临充满价值的选择。这篇博文介绍了 设计明确识别、推理的“冲突敏感”自主交通代理的想法 关于相互竞争的道德、法律和社会价值观并据此采取行动。我们提出了 价值一致的运营设计领域 (VODD) – 嵌入利益相关者的框架 将层次结构和上下文切换规则纳入自主决策的设计中。当人工智能必须在错误和正确之间做出选择想象一下，一辆自动驾驶汽车沿着安静的郊区道路行驶，突然一只狗跑到了路上。该系统必须猛烈制动，并在不到一秒的时间内决定是否转向迎面驶来的车流（另一辆自动驾驶汽车可能会腾出空间）向右转向并撞上路边的护栏，还是继续直行并伤害狗。前两种选择只会造成物质损失；最后一个会伤害生物。
当人工智能必须在错误和正确之间做出选择时每个选择都是合理的，并且涉及安全、财产和道德问题之间的权衡。
然而，当今的自治系统的设计并未明确考虑这种充满价值的冲突。它们通常针对安全和效率进行优化，但不一定针对社会接受度或道德价值观。
我们的研究探讨了如何在自主系统的设计和运行过程中使这些价值紧张变得明确且易于管理——我们将这种观点称为冲突敏感设计。
冲突敏感 设计 影响力和紧迫性。 冲突 或