• 监管人工智能应用,而不是人工智能本身 • 根据人工智能应用风险进行监管 • 4 个风险等级:不可接受、高、低、最小 • 建立对人工智能和整个人工智能生态系统的信任 • 高风险人工智能系统的技术文档、记录保存和透明度/可解释性 • 低风险人工智能系统的透明度义务 • 人为监督 • 提供商、用户和其他利益相关者的义务
支持AI的合成生物学具有巨大的潜力,但也显着增加了生物风格,并带来了一系列新的双重使用问题。鉴于通过结合新兴技术所设想的巨大创新,随着AI支持的合成生物学可能将生物工程扩展到工业生物制造中,因此情况变得复杂。但是,文献综述表明,诸如保持合理的创新范围或更加雄心勃勃的目标以促进巨大的生物经济性不一定与生物安全对比,但需要齐头并进。本文介绍了这些问题的文献综述,并描述了新兴的政策和实践框架,这些框架横渡了指挥和控制,管理,自下而上和自由放任的选择。如何实现预防和缓解未来AI支持的Biohazards,故意滥用或公共领域的预防和缓解未来的生物危害的方法,将不断发展,并且应不断发展,并且应出现自适应,互动方法。尽管生物风格受到既定的治理制度的约束,而且科学家通常遵守生物安全方案,甚至实验性,但科学家的合法使用可能会导致意外的发展。生成AI实现的聊天机器人的最新进展激起了人们对先进的生物学见解更容易获得恶性个人或组织的恐惧。鉴于这些问题,社会需要重新考虑应如何控制AI支持AI的合成生物学。建议可视化手头挑战的建议方法是whack-a摩尔治理,尽管新兴解决方案也许也没有那么不同。
人工智能(AI)和脑科学的进步将对社会产生巨大影响。尽管基于这些进步的技术可以提供巨大的社会利益,但采用新技术会带来各种风险。本文首先回顾了人工智能和脑科学的共同发展以及脑启发的AI在可持续性,医疗保健和科学发现方面的好处。然后,我们考虑这些技术的可能风险,包括故意滥用,自动武器,通过大脑计算机接口的认知增强,社交媒体的阴险效果,不平等和持续发展。我们还讨论了将道德原则付诸实践的实用方法。一个建议是停止为AI代理提供明确的目标,并使他们继续学习人类的偏好。另一个是从人类社会发展的民主机制中学习,以避免权力过度稳固。最后,我们不仅强调了专家的公开讨论的重要性,而且还包括各种各样的外行意见。©2022作者。由Elsevier Ltd.这是CC BY-NC-ND许可证(http://creativecommons.org/licenses/by-nc-nd/4.0/)下的开放访问文章。
外部专家组 Najeeb Al Shorbaji,约旦电子健康发展协会 Arisa Ema,日本东京大学未来倡议研究所 Amel Ghoulia,H3Africa、H3ABioNet,突尼斯 Jennifer Gibson,加拿大多伦多大学达拉拉纳公共卫生学院生物伦理联合中心 Kenneth W. Goodman,美国迈阿密大学米勒医学院生物伦理与卫生政策研究所 Jeroen van den Hoven,荷兰代尔夫特理工大学 Malavika Jayaram,新加坡数字亚洲中心 Daudi Jjingo,乌干达马凯雷雷大学 Tze Yun Leong,新加坡国立大学 Alex John London,美国卡内基梅隆大学 Partha Majumder,印度国家生物医学基因组学研究所 Tshilidzi Marwala,南非约翰内斯堡大学 Roli Mathur,印度医学研究理事会 Timo Minssen,高级生物医学创新法研究 (CeBIL),哥本哈根大学法学院,丹麦 Andrew Morris,英国健康数据研究中心,英国 Daniela Paolotti,ISI 基金会,意大利 Maria Paz Canales,数字权利组织,智利 Jerome Singh,夸祖鲁-纳塔尔大学,南非 Effy Vayena,苏黎世联邦理工学院,瑞士 Robyn Whittaker,奥克兰大学,新西兰 曾毅,中国科学院,中国
支持AI的合成生物学具有巨大的潜力,但也显着增加了生物风格,并带来了一系列新的双重使用问题。鉴于通过结合新兴技术所设想的巨大创新,随着AI支持的合成生物学可能将生物工程扩展到工业生物制造中,因此情况变得复杂。但是,文献综述表明,诸如保持合理的创新范围或更加雄心勃勃的目标以促进巨大的生物经济性不一定与生物安全对比,但需要齐头并进。本文介绍了这些问题的文献综述,并描述了新兴的政策和实践框架,这些框架横渡了指挥和控制,管理,自下而上和自由放任的选择。如何实现预防和缓解未来AI支持的Biohazards,故意滥用或公共领域的预防和缓解未来的生物危害的方法,将不断发展,并且应不断发展,并且应出现自适应,互动方法。尽管生物风格受到既定的治理制度的约束,而且科学家通常遵守生物安全方案,甚至实验性,但科学家的合法使用可能会导致意外的发展。生成AI实现的聊天机器人的最新进展激起了人们对先进的生物学见解更容易获得恶性个人或组织的恐惧。鉴于这些问题,社会需要重新考虑应如何控制AI支持AI的合成生物学。建议可视化手头挑战的建议方法是whack-a摩尔治理,尽管新兴解决方案也许也没有那么不同。
•负责和安全的AI(政府):CSIRO与澳大利亚政府紧密合作,提供科学和技术建议,以介绍负责和安全的AI政策的制定。这包括通过国家AI中心和AI安全研究网络提供有关AI安全的技术建议,并为澳大利亚行业开发了负责任的AI最佳实践目录以及AI多样性和包容指南。后者为政府使用AI的AI保证的国家框架的发展做出了贡献。csiro还为澳大利亚AI安全标准的发展做出了贡献,支持政府参与国际AI安全峰会,并促进了国际研究联盟,将澳大利亚定位为负责人AI的领导者。
这可能遵循一些在专用机构内部制度化道路安全职能的国家的例子,而不是纯粹依靠委员会结构。不管安排如何,各方都必须认识到,减少道路死亡需要集体责任和协调行动。这个目标不能单独实现。它需要在整个道路安全生态系统中工作的每个人的承诺和协作性。我们的ALI(i)GN框架提供了一种有效的治理架构,以整体上赋予所有参与的专业人员的能力,以提供安全的系统方法,并减少道路死亡。从字面上看,生活取决于它。
