详细内容或原文请订阅后点击阅览
天气数据遭到破坏的风险正在上升
每天早上，世界各地的航空公司调度员、电网运营商和农民都会根据同一件事做出决策：天气预报。尽管大多数人只看一眼这些天气预报两秒钟，但天气预报影响着许多行业的重大战略决策，关系到真金白银、生计甚至现实生活。农民使用...
来源:MIT Technology Review _人工智能在风险等级的低端，个人投机者操纵气象站谋取个人利益——这就是戴高乐机场的案例。更进一步：一组交易商可以协调对可再生能源产量的偏差预测，调整批发电价，让交易另一方承担损失。在远端，国家行为者或破坏者可以操纵一个或多个电台来启动预警系统，甚至在警报响起时让一个电台保持沉默。风险逐渐增大，从欺诈到备灾受损，再到国家安全问题。
只要存在操纵观测数据的经济（或其他）激励，对手就会寻找新的机会，而我们的任务就是保持领先。这里有三种方法。
1. 监视站点。数据质量控制应包括站点安全、异常检测和纠正以及人工监督。应持续监控气象站以防止篡改。清理天气记录的数据同质化方法也需要变得更快，以实时发现问题。随着代理人工智能系统使用这些数据来提供实时决策，这将变得越来越重要。最后，需要人工监督来标记有问题的数据并对结果进行建模。毕竟，是人类发现了戴高乐机场的操纵行为。
2. 保护数据以保障人工智能。数据防御机制必须置于整个人工智能管道中。人工智能可解释性和对抗稳健性工具可以帮助我们理解底层数据和人工智能模型输出，帮助我们识别数据或模型相关的问题，并有可能使我们对对抗性攻击更具弹性。
此专栏作者：