Fine-tuning LLM: come si dividono Unsloth, Axolotl, TRL e LLaMA-Factory

Quattro progetti open source dominano il fine-tuning degli LLM e avvolgono tutti lo stesso stack PyTorch e Hugging Face. Divergono su dove spendono l’effort ingegneristico: Unsloth riscrive i kernel, Axolotl compone strategie di parallelismo, TRL definisce le API dei trainer su cui gli altri costruiscono, LLaMA-Factory ottimizza per ampiezza di copertura modelli e operatività zero-code. Un confronto di MarkTechPost li misura su tre assi: throughput, VRAM di picco e scaling multi-GPU.

Single GPU: vince Unsloth

Unsloth sostituisce parti del modeling con kernel Triton scritti a mano e backprop derivata manualmente; Hugging Face segnala 0% di degrado di accuratezza rispetto a QLoRA standard. I benchmark pubblicati indicano 2x di velocità su Llama 3.1 8B e 3.3 70B. Sui MoE il divario cresce: su gpt-oss-20b a 8K di contesto riporta 712,33 ms per step contro 5.226,86 ms di Transformers v5 (7,3x), ma il vantaggio è model-dependent e scende a 1,37x a 1K.

Il differenziatore più netto è la context length a parità di VRAM. Per Llama 3.1 8B QLoRA, Unsloth arriva a 78.475 token di contesto su 24 GB dove Transformers + FlashAttention-2 si ferma a 5.789. Sul fronte memoria, dichiara 6 GB per un 8B in 4-bit QLoRA e 41 GB per un 70B.

Multi-GPU: la classifica si ribalta

Qui il vantaggio single-GPU di Unsloth non regge. Axolotl offre la matrice di parallelismo più profonda — DeepSpeed ZeRO 1-3, FSDP, DDP, più data/tensor/context/expert parallelism composti via DeviceMesh. La sua sequence parallelism scala il contesto quasi linearmente (fino a 129.024 token a SP degree 8) ma l’efficienza di throughput crolla oltre le quattro GPU. TRL resta il layer di primitive, ora con Ring Attention e ALST/Ulysses per lo splitting delle sequenze. LLaMA-Factory baratta profondità per ampiezza: 100+ modelli, UI zero-code, backend Megatron, ma la configurazione distribuita vive solo in YAML e CLI.

La conclusione pratica dell’analisi: singola GPU consumer con architettura supportata, LoRA o QLoRA porta a Unsloth; due-otto GPU, contesto lungo o pipeline RLHF ad Axolotl; loop di training custom e algoritmi di post-training a TRL; copertura modelli e primo run rapido per operatori non-engineer a LLaMA-Factory. Le scelte non si escludono: LLaMA-Factory può usare Unsloth come backend, TRL ha un’integrazione Unsloth, Axolotl chiama i trainer di TRL.

In sintesi

• Unsloth domina velocità e context length su singola GPU; il multi-GPU resta il suo punto debole documentato.
• Axolotl ha la matrice di parallelismo più completa; TRL è il layer di primitive che gli altri avvolgono.
• La sequence parallelism scala il contesto quasi linearmente, ma l’efficienza cala nettamente oltre le quattro GPU.

Fonte: Unsloth vs Axolotl vs TRL vs LLaMA-Factory: A Fine-Tuning Framework Comparison on Speed, VRAM, and Multi-GPU — marktechpost.com