Qlora关键词检索结果

走向数据科学
2025年5月30日 18:44

LLM优化：Lora和Qlora

LLM Optimization: LoRA and QLoRA

大型语言模型的可扩展微调技术LLM优化：Lora和Qlora首先出现在数据科学方面。

亚马逊云科技 _机器学习
2024年11月22日 22:52

使用 QLoRA 加速 Amazon SageMaker 上的 Mixtral MoE 微调

Accelerating Mixtral MoE fine-tuning on Amazon SageMaker with QLoRA

在本文中，我们将演示如何通过使用完全托管的环境和 Amazon SageMaker 训练作业来使用 PyTorch 完全分片数据并行 (FSDP) 和量化低秩自适应 (QLoRA) 对 Mixtral 8x7B 模型进行微调，从而解决模型定制复杂、耗时且通常成本高昂的挑战。

走向数据科学
2024年7月23日 10:13

函数调用：在 xLAM 上微调 Llama 3

Function Calling: Fine-Tuning Llama 3 on xLAM

得益于 QLoRA，速度快且内存效率高继续阅读 Towards Data Science »

数据机器
2024年3月10日 11:37

数据机器 #244

Data Machina #244

像人类一样推理的 AI。自我发现和抽象推理链。Claude 3 IQ 测试。神经国际象棋。FSDP + QLoRA。竞争性 ML 的状态。打开 Sora VideoGen。