详细内容或原文请订阅后点击阅览
科学家越来越依赖他们无法控制或完全理解的“黑匣子”工具
一项研究表明，对不透明数据工具的依赖破坏了科学信任，敦促在使用黑盒技术时保持透明度和谨慎。
来源:Scientific Inquirer一项新研究表明，科学家们越来越依赖强大的数据源和工具，但他们往往无法完全理解、检查或验证这些数据源和工具。
人工智能 (AI)、卫星图像、在线数据和数字传感器等最先进的工具和数据正在彻底改变科学家研究自然世界的方式。
但此类系统实际上就像科学“黑匣子”一样运作，可以日益挑战人们对科学的信任。
这项由国际科学家团队进行的新研究解决了在关键技术无需完全接受审查的情况下即可塑造科学并影响知识的时代中科学研究的可重复性、信任度和未来问题。
这些技术可以处理大量信息，监测各大洲的生物多样性和威胁，并揭示曾经遥不可及的模式。
“然而，这些工具中的许多都代表了真正的黑匣子，它们将这些结果背后的过程很大程度上隐藏起来，”巴黎萨克雷大学研究员、该研究的主要作者 Ivan Jarić 说。
“它们通常由私营公司所有，这些公司在专有限制和商业目标的指导下，有意限制对其系统如何运行或处理数据的信息的访问”。
本文确定了在生态和保护领域广泛使用的几种类型的黑匣子。
最突出的例子之一是大型语言模型和其他人工智能技术，它们越来越多地用于分析海量数据集、解释卫星图像和建模生态系统。
然而，研究人员通常很少或根本无法访问用于训练这些系统、底层算法、直接系统测试或了解它们如何以及为何生成特定输出的数据。
随着人工智能变得更加强大和自主，缺乏透明度将使科学发现更难以解释和验证。
图片来源：NASA。