详细内容或原文请订阅后点击阅览
我尝试在 Colab 上微调机器人 AI 模型。这是有效的
针对 OpenVLA 的可重复 100 步 LoRA 微调运行，包括数据集检查、Colab 设置、训练指标和 W&B 证据。我在 Colab 上尝试微调机器人 AI 模型的帖子。这是有效的方法首先出现在《走向数据科学》上。
来源:走向数据科学模型听起来昂贵、脆弱且难以验证。我想要一个较小的测试：我可以在 Colab 中运行真正的 OpenVLA LoRA 微调，证明数据集加载正确，确认 GPU 执行了真正的训练，并留下其他人可以检查的证据吗？
如果您想了解 OpenVLA 微调是否可行，那么在您花时间进行大型机器人实验之前，本文将为您提供一条可重复的小路径。到最后，您将了解 OpenVLA 微调有何变化、LoRA 适配器会给您带来什么、如何在 Colab 中运行官方训练路径，以及如何验证结果是否不仅仅是一台简单完成而没有崩溃的笔记本。
OpenVLA 论文介绍了 OpenVLA 作为一个拥有 70 亿个参数的开源视觉语言动作模型，经过 970,000 个真实机器人演示的训练。这种规模正是小型、可验证的首次运行有用的原因。
OpenVLA 是一个机器人控制模型。视觉-语言-动作模型（VLA）需要两个输入：来自机器人工作空间的相机图像和自然语言指令，例如“将杯子放在盘子上”。根据这些输入，它可以预测机器人应该采取的下一步行动。
微调意味着采用预训练模型并在特定数据集上进一步训练它。对于 OpenVLA，数据集由机器人演示组成。每个演示都会显示机器人看到的内容、遵循的指令以及接下来采取的行动。目标是提高模型预测对运行至关重要的任务系列所展示的操作的能力。
本文将介绍一次小型、可重现的 OpenVLA 微调运行。它使用“openvla/openvla-7b”检查点，这是官方 OpenVLA 配方中使用的 70 亿参数检查点，并训练低阶适应（LoRA）适配器而不是更新完整模型。 LoRA 使运行规模保持较小，因为它仅训练一小部分适配器权重，而大部分原始模型仍处于冻结状态。