机构名称：
¥ 1.0
● 创建工具来指导出版决策：使用基准或第三方专家小组等外部测量可能是公平指导出版决策的关键一步。此类方法可以设定与出版相关的可接受风险水平的一定标准。根据此建议，记录由于其固有风险而被拒绝的论文以及一些相关指标也是恰当的。● 提供页码扩展： 延长已发表论文的页数限制可能会有所帮助，以便研究人员能够包括传统上不会打印的负面结果（无关紧要或反驳研究人员假设的结果）。 除了增加页数外，还应该显著改变围绕负面结果发表的文化。● 建立同行网络：建立同行网络以评估研究人员的人工智能模型的潜在风险和收益，可能是制定更好、更安全的出版规范的重要工具。如果建立这样的机制，评估可以完全或部分基于哲学家约翰·罗尔斯的“无知之幕”。 如果将这个想法应用于审查人工智能研究，可以要求同行评审员从不同的社会角度考虑新人工智能研究的潜在优势和风险。● 要求提供广泛的影响声明： NeurIPS 会议要求提交的论文包括与所提出研究有关的更广泛影响的声明。通过将反思作为在 NeurIPS 上考虑其工作的必要条件，这激励研究人员思考潜在的风险和收益。所有会议和出版物上的类似措施将鼓励研究人员批判性地评估他们的研究对世界产生的积极和消极影响 ● 要求公布预期结果：要求研究人员撰写和公布其研究项目的预期结果（包括但不限于其更广泛的社会和道德影响）有助于在研究人员开展项目之前就潜在的利益和危害进行反思。● 改革同行评审流程：同行评审的完善做法为每位评审员就他们正在修改的论文中看到的风险和利益进行交流提供了绝佳的机会。如果在评审论文时添加了一个问题或要求，可能会迅速产生广泛的影响，促使研究人员考虑他们的研究可能产生的结果。有效的审查流程应在明确、公平和高效的同时，促进风险限制。实现此目的的一种方法是根据同行评审论文所认为的研究风险程度，按比例加强出版要求。
蒙特利尔人工智能伦理研究所
主要关键词
相关文件推荐
