一场技术革命正在进行中。它涵盖了我们社会的几乎所有方面,从教育到健康,从金融到自动化,从运输到气候变化。计算技术已经普遍存在,因此,每年都会生产越来越多的数据。需要新的,最前沿的人工智能(AI)算法和数据科学方法来利用机会,并应对随着这场革命的需求。AI算法通常采用神经网络深度学习技术来解决模式识别,在从大量数据中提取信息方面非常成功[1]。但是,用于开发最新和最强大的网络的方法,例如GPT-3 [2],需要数千个PETAFLOP天(超过浮点操作)。据估计,用于开发GPT-3的多次培训课程需要“ 9,998天”的GPU时间(超过27 GPU年)。考虑到所有这些运行,研究人员估计,建立该模型产生了35吨二氧化碳的排放:比美国成年人普通成年人在两年内产生的更多。” [3]
主要关键词