组织越来越多地使用自动决策系统 (ADMS) 来为影响人类及其环境的决策提供信息。虽然使用 ADMS 可以提高决策过程的准确性和效率,但它也伴随着道德挑战。不幸的是,当前用于监督人类决策的治理机制在应用于 ADMS 时往往会失败。
AI and the Future of Skills, Volume 1
经合组织启动了人工智能和技能的未来项目,以开发一个可以评估人工智能和机器人技术的能力及其对教育和工作的影响的计划。本报告代表了开发该项目方法论的第一步。
Isaac Gym: High Performance GPU-Based Physics Simulation For Robot Learning
Isaac Gym 提供了一个高性能学习平台,可直接在 GPU 上训练各种机器人任务的策略。物理模拟和神经网络策略训练都驻留在 GPU 上,并通过直接将数据从物理缓冲区传递到 PyTorch 张量进行通信,而无需经历任何 CPU 瓶颈。这使得在单个 GPU 上进行复杂机器人任务的训练时间极快,与使用基于 CPU 的模拟器和 GPU 进行神经网络的传统 RL 训练相比,速度提高了 2-3 个数量级。
Do Vision Transformers See Like Convolutional Neural Networks?
到目前为止,卷积神经网络 (CNN) 一直是视觉数据的实际模型。最近的研究表明,(Vision) Transformer 模型 (ViT) 可以在图像分类任务上实现相当甚至更优异的性能。这提出了一个核心问题:Vision Transformer 如何解决这些任务?它们是像卷积网络一样工作,还是学习完全不同的视觉表示?通过分析 ViT 和 CNN 在图像分类基准上的内部表示结构,我们发现这两种架构之间存在显着差异,例如 ViT 在所有层上都有更统一的表示。我们探索了这些差异是如何产生的,发现了自我注意力所起的关键作用,它可以实现全局信息的早期聚合,以及 ViT 残差连接,它可以将特征从较低层强烈
机器学习涵盖了很多领域,但它也有可能做出错误的决定。我们也已经达到了炒作的阶段,人们忘记了许多分类问题也可以由自然智能来处理。此软件包包含与 scikit-learn 兼容的工具,这些工具应该可以更轻松地构建和基准测试由人类设计的基于规则的系统。您还可以将其与 ML 模型结合使用。
The Word is Mightier than the Label: Learning without Pointillistic Labels using Data Programming
我们分析了 DP 背后的数学基础,并通过将其应用于两个现实世界的文本分类任务来展示它的强大功能。此外,我们将 DP 与传统上在数据稀疏设置中应用的点画主动和半监督学习技术进行了比较。
Highly accurate protein structure prediction with AlphaFold
AlphaFold 最新版本的基础是一种新颖的机器学习方法,它将有关蛋白质结构的物理和生物学知识,利用多序列比对,融入到深度学习算法的设计中。
Model-based Decision Making with Imagination for Autonomous Parking
自动停车技术是自动驾驶研究中的一个关键概念。本文将提出一种富有想象力的自动停车算法来解决与停车有关的问题。
CARLA: A Python Library to Benchmark Algorithmic Recourse and Counterfactual Explanation Algorithms
CARLA(反事实和追索库)是一个 Python 库,用于对不同数据集和不同机器学习模型中的反事实解释方法进行基准测试。总之,我们的工作提供了以下贡献:(i)对 11 种流行的反事实解释方法进行了广泛的基准测试,(ii)用于研究未来反事实解释方法的基准测试框架,以及(iii)一套标准化的综合评估措施和数据集,用于对这些方法进行透明和广泛的比较。我们在 Github 上开源了 CARLA 和我们的实验结果,使它们可以作为有竞争力的基准。我们欢迎其他研究小组和从业人员的贡献。
本文简要概述了这一新兴的过度参数化 ML 理论(以下简称 TOPML),从统计信号处理的角度解释了这些最新发现。我们强调了将 TOPML 研究领域定义为现代 ML 理论子领域的独特方面,并概述了仍然存在的有趣开放问题。
How to avoid machine learning pitfalls: a guide for academic researchers
本文档简要概述了使用机器学习技术时出现的一些常见错误,以及如何避免这些错误。它主要作为研究生的指南,并重点关注学术研究中特别关注的问题,例如需要进行严格的比较并得出有效的结论。它涵盖了机器学习过程的五个阶段:模型构建之前要做什么、如何可靠地构建模型、如何稳健地评估模型、如何公平地比较模型以及如何报告结果
YOLOX: Exceeding YOLO Series in 2021
我们将 YOLO 检测器切换到无锚方式,并采用其他高级检测技术,即解耦头和领先的标签分配策略 SimOTA,以在大型数据集上实现最先进的结果模型规模范围:对于只有 0.91M 参数和 1.08G FLOPs 的 YOLO-Nano,我们在 COCO 上获得了 25.3% 的 AP,比 NanoDet 高出 1.8% AP;对于业界使用最广泛的检测器之一 YOLOv3,我们对其进行了提升在 COCO 上达到 47.3% AP,比当前最佳实践高出 3.0% AP;对于参数量与 YOLOv4-CSP、YOLOv5-L 大致相同的 YOLOX-L,我们在 COCO 上以 68.9 FPS 的速度实现了
智能手表、智能手机和其他类似设备等移动设备的不断出现和改进,导致人们对将其用户置于放大镜和应用程序控制之下的兴趣日益浓厚且不公平。
YOLOP: You Only Look Once for Panoptic Driving Perception
全景驾驶感知系统是自动驾驶的重要组成部分。高精度、实时的感知系统可以帮助车辆在驾驶时做出合理的决策。我们提出了一个全景驾驶感知网络(YOLOP),用于同时执行交通物体检测、可驾驶区域分割和车道检测。它由一个用于特征提取的编码器和三个用于处理特定任务的解码器组成。我们的模型在具有挑战性的 BDD100K 数据集上表现非常出色,在准确性和速度方面在所有三个任务上都达到了最先进的水平。此外,我们通过烧蚀研究验证了我们的多任务学习模型用于联合训练的有效性。
labml.ai Deep Learning Paper Implementations
这是神经网络和相关算法的简单 PyTorch 实现的集合。这些实现都附有说明,网站将这些说明呈现为并排格式的注释。我们相信这些将有助于您理解这些算法更好。
根据结果,有证据表明西班牙语的数据科学存在文化偏见。 2021 年 4 月 12 日进行的咨询结果证实,在 23.771 个数据集中,只有 10 个“说”西班牙语。
不断出现并增加以“智能手表”、“智能手机”和其他类似设备形式出现的移动设备,在降低用户对应用程序的控制和使用率方面产生了积极和深远的影响。制造商对此深信不疑。
此项研究的结果提供了数据科学中英语和西班牙语之间存在的文化证据。在 2021 年 4 月 12 日查阅日期找到的 23,771 份数据中,只有 10 份是用西班牙语找到的