El ajuste completo de los parámetros de los modelos básicos de parámetros multimillonarios requiere una infraestructura de GPU de nivel de clúster y una inmensa sobrecarga de memoria.
La adaptación de rango bajo (LoRA) congela los pesos del modelo original e inyecta matrices de descomposición de rangos entrenables en capas de autoatención del transformador.
Quantized LoRA (QLoRA) introduce precisión NormalFloat de 4 bits y doble cuantificación, lo que hace posible el ajuste fino de modelos 70B en hardware de un solo nodo.
