EBP关键词检索结果

AI 视频的变革:Ovi 的飞跃让创作者既兴奋又紧张,并想知道下一步会发生什么

The AI Video Shake-Up: Ovi’s Leap Has Creators Excited, Nervous, and Wondering What’s Next

Ovi 的最新更新本周已出现在网站上,坦率地说,很难不同时对其功能感到敬畏和担忧。根据 WebProNews 的报道,这种人工智能令人毛骨悚然的自然口型同步和毫不费力的流畅动作(没有人看起来甚至接近),同时成功地与虚拟化身交谈,可以引导我们实现我们所希望的现代头像视频剪辑的遥远梦想。这种升级吸引了人们的注意,因为它不再只是一个可爱的演示——创作者实际上正在用它赚更多的钱。然而,真正引起我注意的是 [...]

用于在资源受限的移动设备上微调 LLM 的内存高效反向传播

Memory-Efficient Backpropagation for Fine-Tuning LLMs on Resource-Constrained Mobile Devices

使用反向传播对大型语言模型 (LLM) 进行微调(即使对于 LoRA 等参数子集)可能比推理更消耗内存,并且对于资源受限的移动设备来说通常被认为是不切实际的。零阶优化 (ZO) 等替代方法可以大大减少内存占用,但代价是模型收敛速度显着减慢(比反向传播多 10 倍到 100 倍的步骤)。我们提出了一种在移动设备上实现反向传播 (MeBP) 的内存高效实现,它可以在内存使用和计算之间提供更好的权衡……