Adaptive LoRA de Penn State cambia los rangos para aprender nuevas tareas sin borrar las anteriores
Investigadores de Penn State modificaron un supuesto básico de LoRA: ya no todas las capas del modelo reciben el mismo rango fijo al aprender una secuencia de tareas. Su método adaptive LoRA de Penn State amplía el rango de forma selectiva, con el objetivo de reducir la interferencia entre capacidades nuevas y aprendidas previamente.
Ese cambio aborda una debilidad persistente de los modelos de lenguaje grandes. El ajuste fino puede mejorar el rendimiento en un dominio nuevo mientras deteriora habilidades adquiridas antes. Los investigadores llaman a este fallo olvido catastrófico: el entrenamiento nuevo provoca pérdidas medibles en tareas anteriores.
Fuli Qiao y Mehrdad Mahdavi describen el enfoque en un artículo de 2026 de la revista Machine Learning. El trabajo presenta rangos LoRA adaptativos por capa como una forma de gestionar la tensión entre estabilidad y plasticidad. La estabilidad protege el comportamiento existente, mientras que la plasticidad permite al modelo asimilar información nueva.
La comparación central no es entre adaptive LoRA y el ajuste fino completo. Es entre la asignación adaptativa de rangos y la configuración LoRA de rango fijo ampliamente utilizada para una adaptación eficiente en parámetros. Un rango fijo es simple, pero presupone que todas las capas necesitan la misma capacidad para cada tarea.
En su lugar, los investigadores miden la similitud entre subespacios de bajo rango específicos de cada tarea. Después aumentan el rango allí donde una tarea nueva requiere direcciones adicionales y menos conflictivas para aprender. Según su resumen publicado, el artículo informa resultados comparables o mejores en benchmarks de aprendizaje continuo y matemáticas.
Esta afirmación importa más allá de las clasificaciones de benchmarks. Los equipos quieren cada vez más modelos capaces de incorporar nuevas políticas, terminología, flujos de trabajo y preferencias de usuarios sin reiniciar el entrenamiento. El nuevo estudio sugiere que decidir dónde añadir capacidad puede importar tanto como decidir cuánta capacidad añadir.
El estudio de adaptive LoRA de Penn State cambia una decisión de diseño fija
El artículo trata el rango de LoRA como un recurso cambiante, no como un ajuste permanente aplicado de forma uniforme a todo un modelo.
Low-Rank Adaptation, o LoRA, ajusta un modelo aprendiendo pequeñas matrices de actualización mientras mantiene congelados sus principales pesos preentrenados. El método LoRA original redujo los parámetros entrenables y los requisitos de memoria frente a actualizar un modelo completo.
Cada actualización LoRA tiene un rango, que limita el número de direcciones independientes disponibles para modificar una matriz de pesos. Un rango menor utiliza menos parámetros entrenables. Un rango mayor ofrece una capacidad expresiva superior, pero requiere memoria y cómputo adicionales.
Muchas implementaciones eligen un único rango antes del entrenamiento y lo reutilizan en todas las capas. Esa decisión resulta conveniente para la configuración, el despliegue y la planificación de presupuestos. También ignora la evidencia de que las capas de los transformers desempeñan roles distintos y responden de forma diferente a tareas nuevas.
Qiao y Mahdavi se enfocan en ese desajuste. Su estudio de rango adaptativo utiliza una métrica de similitud de subespacios para examinar las relaciones entre actualizaciones de tareas antiguas y nuevas. Después ajusta el rango de LoRA a nivel de capa conforme llegan nuevas tareas.
Un subespacio es la región matemática más pequeña representada por una actualización de bajo rango. Si una tarea nueva necesita direcciones ya ocupadas por tareas previas, su actualización corre el riesgo de interferir con el conocimiento almacenado. Las direcciones más ortogonales se solapan menos y reducen la competencia directa entre cambios específicos de cada tarea.
Por ello, el método aumenta el rango de forma selectiva en vez de ampliar cada adaptador. Las capas que necesitan más capacidad independiente pueden recibirla. Las capas que no la necesitan evitan una expansión innecesaria.
Este es un cambio significativo porque el rango controla tanto la capacidad de adaptación como el consumo de recursos. El ajuste con rango fijo trata estas preocupaciones como un único compromiso global. La asignación adaptativa las convierte en una decisión capa por capa, informada por la secuencia de tareas.
El artículo presenta este mecanismo como una forma de preservar conocimientos previos mientras mejora la generalización a datos no vistos. Sin embargo, sus resultados siguen siendo experimentales. No demuestran que un asistente desplegado pueda aprender indefinidamente sin regresiones.
La publicación también amplía una línea de investigación que Qiao y Mahdavi presentaron en NeurIPS 2024. Su anterior artículo sobre aprendizaje continuo utilizó subespacios de bajo rango, análisis de sensibilidad y proyección de gradientes para reducir la interferencia entre tareas secuenciales.
Ese trabajo anterior destacó dos objetivos. Un modelo debe retener capacidades previas, pero también transferir conocimiento útil hacia adelante. Evitar todo cambio puede preservar el historial, pero dificultar el aprendizaje de tareas posteriores.
El artículo de 2026 sitúa el rango adaptativo directamente dentro de ese problema de estabilidad-plasticidad. En vez de aceptar un solo rango para cada capa y tarea, el método asigna nueva capacidad allí donde las relaciones medidas entre subespacios indican que se necesita.
LoRA de rango fijo deja a todas las capas con el mismo compromiso
Un único rango LoRA es fácil de gestionar, pero puede dejar sin recursos a capas difíciles y sobredimensionar capas que requieren pocos cambios.
Pensemos en una empresa que adapta un modelo de lenguaje a soporte, cumplimiento, documentación técnica y operaciones de producto. Cada dominio introduce vocabulario y patrones de razonamiento diferentes. Las mismas capas transformer no necesariamente asumirán la misma carga de adaptación.
Un rango fijo bajo puede limitar una capa que necesita mayor capacidad expresiva. Entonces, el modelo puede tener dificultades para adquirir la nueva tarea. Aumentar el rango global resuelve esa limitación, pero también amplía las actualizaciones en capas donde la capacidad extra aporta poco valor.
Estas actualizaciones mayores pueden crear otro problema. Más direcciones adaptables dan al entrenamiento mayor libertad para ajustarse a la tarea actual. Esa libertad también puede incrementar la interferencia con representaciones de tareas anteriores.
La relación no es puramente teórica. Un análisis del olvido de 2024 probó actualizaciones incrementales de bajo rango en tareas de clasificación de imágenes. Determinó que el rango de LoRA afectaba de manera sustancial al olvido en vision transformers.
En una configuración reportada, las actualizaciones de rango uno produjeron 8,2 puntos de olvido en ImageNet. Las actualizaciones de rango 32 produjeron 29,3 puntos. La precisión media independiente de la tarea cayó de 70,3 con rango uno a 61,1 con rango 32.
Estas cifras proceden de modelos de visión, no de los experimentos con LLM de Penn State. No deben trasladarse directamente a despliegues de modelos de lenguaje. Aun así, refuerzan el hallazgo más amplio de que el rango es un control de estabilidad, no solo un ajuste de memoria.
El enfoque de rango fijo también presupone de forma implícita la dificultad de las tareas. Supone que cada tarea entrante necesita aproximadamente la misma capacidad de adaptación. Los flujos de tareas reales rara vez se comportan así.
Actualizar un modelo para una convención de formato limitada es distinto de enseñarle razonamiento matemático. Añadir una etiqueta de clasificación especializada es distinto de adaptarlo a un nuevo idioma o dominio. Sus direcciones de actualización útiles y riesgos de interferencia pueden variar.
Adaptive LoRA de Penn State responde examinando los subespacios de las tareas antes de ampliar la capacidad. Una capa recibe rango adicional cuando el método identifica una ortogonalidad insuficiente entre sus representaciones de tareas existentes y entrantes.
Ese diseño convierte el rango en un presupuesto de plasticidad. El método no se limita a minimizar los parámetros entrenables. Intenta invertir esos parámetros allí donde crean una separación útil entre tareas.
LoRA de rango fijo conserva ventajas prácticas. Produce tamaños de adaptadores predecibles, recetas de entrenamiento conocidas y estimaciones de hardware más sencillas. Los ingenieros pueden reproducir configuraciones sin implementar un nuevo procedimiento de selección de rango.
El rango adaptativo introduce más decisiones durante el entrenamiento. El sistema debe calcular similitud, mantener información sobre subespacios previos y aplicar una regla de crecimiento del rango. Estos pasos añaden complejidad operativa incluso cuando la inferencia sigue siendo eficiente.
Por tanto, la comparación implica dos tipos de simplicidad. El rango fijo simplifica la gestión del entrenamiento. El rango adaptativo busca un estado de modelo más sencillo a largo plazo al reducir la capacidad redundante y la interferencia entre tareas.
Para los equipos que construyen sistemas actualizados continuamente, la segunda forma puede adquirir mayor valor. La adaptación repetida expone debilidades que permanecen invisibles durante un único trabajo de ajuste fino.
Un modelo entrenado una sola vez solo necesita ajustarse a un conjunto de datos objetivo. Un modelo entrenado de forma continua debe ajustarse al conjunto actual mientras conserva un conjunto creciente de comportamientos previos. Eso convierte la asignación de rango en una decisión temporal, no solo en una elección de optimización local.
Los rangos de adaptive LoRA separan el conocimiento nuevo de las actualizaciones anteriores
El mecanismo funciona encontrando direcciones menos conflictivas para cada tarea nueva y ampliando únicamente las capas que las necesitan.
El método comienza con matrices de bajo rango asociadas a una tarea. Estas matrices representan una actualización restringida del modelo congelado. Sus columnas y filas definen las direcciones mediante las que el entrenamiento puede modificar el comportamiento del modelo.
Cuando llega otra tarea, el sistema compara su subespacio emergente con los subespacios asociados a tareas anteriores. La medición de similitud estima cuánto se solapan esas direcciones de actualización.
Un solapamiento elevado señala una posible interferencia. Entrenar la nueva tarea en las mismas direcciones puede alterar parámetros de los que dependen las tareas previas. Un solapamiento bajo indica que la nueva tarea dispone de mayor margen independiente para adaptarse.
Los investigadores emplean la ortogonalidad como principio organizador. Dos direcciones son ortogonales cuando su solapamiento geométrico es cero. En la práctica, fomentar un menor solapamiento ofrece a las tareas secuenciales una capacidad de actualización más separada.
Adaptive LoRA de Penn State aumenta después el rango por capa para cada tarea nueva según esta relación. No prescribe una expansión idéntica en todo el transformer. El rango puede crecer de forma distinta porque la interferencia entre tareas difiere entre capas.
Este enfoque aborda ambas dimensiones del aprendizaje continuo. Protege la estabilidad al reducir el solapamiento con actualizaciones anteriores. Conserva la plasticidad al añadir nuevas direcciones en vez de congelar cada parámetro que alguna vez resultó útil.
Este equilibrio distingue al método de la regularización simple. La regularización penaliza el alejamiento de parámetros considerados importantes. Las penalizaciones fuertes pueden reducir el olvido, pero también impedir que el modelo se ajuste a tareas posteriores.
La repetición de experiencias sigue otra vía. Mezcla muestras de tareas previas en el entrenamiento nuevo para que el modelo siga practicando comportamientos anteriores. La repetición puede ser eficaz, pero almacenar datos antiguos plantea preocupaciones de privacidad, licencias y almacenamiento.
La repetición generada evita conservar ejemplos originales, pero introduce datos de entrenamiento generados por el modelo. Los errores u omisiones en ese historial sintético pueden distorsionar lo que el sistema conserva. La generación también incrementa el trabajo de entrenamiento.
Los adaptadores específicos de cada tarea aíslan los cambios de manera más directa. Un equipo puede conservar un módulo LoRA para cada tarea y seleccionar el módulo correcto durante la inferencia. Este enfoque limita la interferencia, pero hace que el almacenamiento y el enrutamiento crezcan con el número de tareas.
El rango adaptativo busca una vía intermedia. Aumenta la capacidad dentro de una estructura eficiente en parámetros mientras utiliza la geometría de subespacios para limitar la interferencia. El resumen publicado también describe el método como eficiente en memoria.
Un método relacionado de rango adaptativo, GeLoRA, aborda la selección de rango a través de la dimensionalidad intrínseca de las representaciones ocultas. Su investigación revisada por pares sobre selección de rango informó tiempos de cómputo menores que varias líneas base de LoRA adaptativo con presupuestos de parámetros equivalentes.
GeLoRA no es un sistema de aprendizaje continuo equivalente al método de Penn State. La comparación es relevante porque ambos rechazan el rango uniforme como una opción predeterminada neutral. Tratan la selección de rango específica por capa como un objetivo de optimización.
El trabajo de Penn State añade el factor temporal a ese cálculo. Un rango útil no depende únicamente de la representación actual de una capa. También depende de lo que tareas anteriores ya hayan situado en el espacio de bajo rango de esa capa.
Esto hace que el aprendizaje continuo se parezca a una planificación cuidadosa de capacidad. El sistema necesita espacio suficiente para codificar un comportamiento nuevo. También necesita límites que impidan que la actualización reescriba direcciones antes útiles.
Para los desarrolladores, el mecanismo sugiere un cambio de diagnóstico. Cuando el ajuste secuencial produce regresiones, es posible que la tasa de aprendizaje y el conjunto de datos no sean los únicos sospechosos. La distribución de rangos entre capas también puede estar generando interferencia evitable.
El aprendizaje continuo somete a presión a los operadores de modelos
Las organizaciones que ajustan repetidamente un mismo modelo enfrentan un conflicto creciente entre actualización, retención y coste operativo.
Un modelo estático puede quedar desactualizado a medida que cambia la información de la empresa. Los nombres de productos, las políticas, los procedimientos de seguridad y las expectativas de los clientes evolucionan. Los equipos pueden compensarlo con recuperación de información, herramientas, actualizaciones de prompts o ajuste fino adicional.
La recuperación de información suele ser la opción inicial más segura para el conocimiento factual cambiante. Mantiene la información de origen fuera de los pesos del modelo y permite actualizar los documentos de forma independiente. También admite citas y controles de acceso cuando se implementa con cuidado.
El ajuste fino cumple una función distinta. Puede cambiar el estilo de respuesta, la ejecución de tareas, las convenciones de un dominio y el comportamiento aprendido. Esos cambios son difíciles de expresar únicamente mediante pasajes recuperados.
La presión aparece cuando los equipos usan el ajuste fino de forma repetida. Un modelo adaptado para un departamento puede sufrir regresiones tras entrenarse para otro. Una actualización que mejora casos recientes puede debilitar capacidades antiguas poco frecuentes pero importantes.
Probar todos los comportamientos históricos tras cada actualización es costoso. Sin embargo, omitir esa evaluación deja a los equipos sin visibilidad sobre regresiones silenciosas. Los métodos de aprendizaje continuo prometen reducir esta carga de mantenimiento, pero ninguno elimina la necesidad de realizar pruebas.
Los rangos adaptativos de LoRA son relevantes porque muchas organizaciones ya utilizan ajuste fino eficiente en parámetros. Pueden entrenar y almacenar actualizaciones más pequeñas sin modificar cada peso del modelo. La asignación dinámica de rangos se basa en esa arquitectura conocida.
La presión inmediata recae sobre los equipos que eligen entre un modelo compartido y muchas variantes especializadas. Un modelo compartido simplifica la entrega, pero expone las tareas a interferencias. Los modelos separados protegen la especialización, pero multiplican el trabajo de infraestructura y gobernanza.
Los adaptadores específicos por tarea ofrecen una solución intermedia, aunque introducen enrutamiento. El sistema debe saber qué adaptador corresponde a cada solicitud. Los prompts de dominios mixtos pueden volver ambigua esa decisión.
Un adaptador actualizado de forma continua evita el enrutamiento explícito, pero cada actualización puede alterar comportamientos anteriores. El LoRA adaptativo de Penn State intenta proteger la vía de un único modelo proporcionando a las nuevas tareas subespacios con menos conflictos.
Los trabajadores del conocimiento experimentan las consecuencias de forma indirecta. Un asistente laboral puede gestionar correctamente un flujo de trabajo nuevo mientras se vuelve menos fiable en uno anterior. La regresión puede parecer aleatoria porque la interfaz y el modelo base no cambian.
Los equipos que gestionan información interna pueden reducir parte de la presión separando el conocimiento de origen del comportamiento del modelo. Una base de conocimiento consultable puede mantener accesibles los documentos cambiantes sin codificar cada revisión en los pesos.
Esa separación no elimina el valor del aprendizaje continuo. Aclara dónde corresponde cada técnica. La recuperación gestiona los hechos cambiantes, mientras que la adaptación puede dirigirse a habilidades, formatos y patrones de decisión estables.
El artículo también presiona a los desarrolladores de herramientas de rango fijo. Si la asignación adaptativa supera repetidamente a los rangos uniformes, los marcos de entrenamiento necesitarán mejor soporte para formas variables de adaptadores. Los sistemas de evaluación necesitarán diagnósticos a nivel de capa y benchmarks de tareas secuenciales.
La planificación de hardware también puede cambiar. Un rango fijo ofrece una asignación máxima sencilla. El rango adaptativo puede reducir el desperdicio, pero el consumo real depende de la secuencia de tareas entrantes y de la regla de expansión.
Esta incertidumbre es manejable en investigación. Los sistemas de producción requieren límites predecibles, comportamiento de checkpoints, compatibilidad y reversión. El valor práctico del método dependerá de lo limpiamente que estos controles se integren en los flujos de entrenamiento existentes.
Las mejoras en benchmarks no equivalen al aprendizaje permanente
La evidencia respalda el rango adaptativo como un control prometedor, pero no demuestra que los modelos puedan absorber tareas ilimitadas sin degradación.
El resumen de la revista afirma que el método logró resultados comparables o superiores en benchmarks estándar de aprendizaje continuo de lenguaje natural y en desafiantes benchmarks matemáticos. También informa de un mejor control del olvido, rendimiento en tareas y generalización a datos no vistos.
Son resultados relevantes, pero los límites de los benchmarks importan. Una secuencia de tareas controlada es más pequeña y limpia que un historial de producción con cambios de políticas, etiquetas ruidosas, instrucciones contradictorias y poblaciones de usuarios cambiantes.
Las puntuaciones de aprendizaje continuo también condensan varios comportamientos en promedios. Un modelo puede obtener un resultado medio sólido mientras sufre una regresión grave en una tarea sensible para la seguridad o de baja frecuencia. La retención agregada no garantiza una retención uniforme.
El orden de las tareas plantea otro riesgo. Aprender clasificación legal antes que resumen puede producir una interferencia distinta que invertir esa secuencia. Una política adaptativa debe seguir siendo fiable ante muchos órdenes posibles, no solo ante una disposición seleccionada para un benchmark.
La similitud de subespacios también es un indicador indirecto. Un bajo solapamiento geométrico no garantiza automáticamente independencia funcional. Dos actualizaciones pueden ocupar direcciones de parámetros separadas y aun así producir resultados contradictorios para prompts relacionados.
También puede ocurrir el problema opuesto. Las tareas relacionadas pueden beneficiarse de direcciones compartidas porque el conocimiento útil se transfiere hacia adelante. Imponer demasiada separación puede desperdiciar capacidad o bloquear una transferencia positiva.
Por tanto, el método necesita distinguir la interferencia perjudicial de la reutilización útil. Es una cuestión más difícil que minimizar el solapamiento. Los subespacios similares pueden indicar conflicto, estructura compartida o ambas cosas.
El crecimiento del rango crea otra incertidumbre. La expansión selectiva puede ser más eficiente que aumentar cada capa. Sin embargo, la capacidad sigue acumulándose si una secuencia larga exige repetidamente nuevas direcciones.
La medida crucial en producción no es si la memoria permanece baja durante varias tareas. Es cómo se comportan el tamaño del adaptador, el tiempo de entrenamiento y la retención a lo largo de decenas o cientos de actualizaciones.
Las comparaciones con replay también requieren cautela. Un método sin memoria tiene ventajas claras cuando no se pueden almacenar datos anteriores. En otros entornos, un pequeño búfer de replay puede proporcionar una retención más sólida o una depuración más sencilla.
La encuesta sobre aprendizaje continuo de 2026 agrupa el replay, la regularización, el aislamiento de parámetros y los módulos ligeros entre las principales estrategias del campo. Cada una desplaza los costes entre almacenamiento, estabilidad, plasticidad y complejidad de inferencia.
Ningún benchmark puede decidir esa compensación operativa para todas las organizaciones. Un sistema sanitario puede priorizar una retención trazable frente a una memoria mínima. Una aplicación de consumo puede priorizar la personalización rápida y aceptar garantías más limitadas.
La publicación del artículo en Machine Learning ofrece respaldo revisado por pares para esta línea de investigación. No convierte la técnica en una garantía de producción. Las replicaciones independientes siguen siendo importantes, especialmente entre diferentes familias de modelos.
Los resultados de los autores también deben interpretarse como específicos del método. “LoRA adaptativo” describe una amplia familia de técnicas. Los distintos sistemas utilizan puntuaciones de importancia, valores singulares, geometría, poda o señales de recursos para elegir rangos.
El éxito de un algoritmo no valida todas las implementaciones de rango dinámico. Los desarrolladores deben examinar la métrica de selección, la política de expansión, el comportamiento de memoria y el protocolo de evaluación del método exacto que implementen.
El comportamiento de seguridad y alineamiento merece pruebas independientes. Conservar la precisión en benchmarks no demuestra que los límites de rechazo, los controles de privacidad o las restricciones de uso de herramientas sobrevivan a las actualizaciones secuenciales.
Una implementación creíble probaría tareas antiguas y nuevas después de cada adaptación. Conservaría checkpoints de reversión e inspeccionaría las regresiones en el peor caso. También compararía el rango adaptativo con líneas base de rango fijo, replay y adaptadores separados.
Hasta que esas evaluaciones se vuelvan rutinarias, “aprender sin olvidar” sigue siendo un objetivo más que una descripción literal. Los resultados de Penn State acotan el problema, pero no lo eliminan.
Tres señales mostrarán si los rangos adaptativos de LoRA importan
La próxima evidencia debe demostrar retención duradera, crecimiento acotado e integración más allá de los experimentos académicos controlados.
La primera señal es una replicación independiente en las principales familias de modelos abiertos. Los investigadores deberían probar el método en diferentes arquitecturas transformer, escalas de parámetros y órdenes de tareas. Las mejoras repetidas reforzarían la afirmación de que la asignación de rangos por capa se generaliza.
La replicación debería informar de más aspectos que la precisión media. Debería incluir la regresión de la peor tarea, la transferencia hacia adelante, el tamaño del adaptador, la memoria de entrenamiento y la sensibilidad al orden de las tareas. Estas mediciones revelan si la mejora oculta fallos aislados.
Si equipos independientes reproducen un menor olvido sin sacrificar el rendimiento en tareas nuevas, el rango adaptativo se convierte en un candidato creíble como opción predeterminada. Si los resultados varían mucho según la arquitectura, seguirá siendo una estrategia de ajuste especializada.
La segunda señal es un crecimiento de recursos acotado en secuencias largas. Los flujos breves de benchmarks no pueden demostrar si la expansión de rango termina por aproximarse a una configuración costosa de rango alto.
Los experimentos deberían ampliarse a decenas de tareas heterogéneas. Deberían informar de las distribuciones de rangos por capa después de cada etapa. Un crecimiento estable respaldaría el argumento de eficiencia de memoria del método.
Una expansión rápida debilitaría ese argumento, incluso si la precisión se mantiene sólida. Indicaría que el método retrasa los costes de capacidad en lugar de resolverlos.
La tercera señal es el soporte en marcos de entrenamiento ampliamente utilizados. La adopción práctica requiere portabilidad de checkpoints, optimización consciente del rango, límites de memoria predecibles y compatibilidad con modelos cuantizados.
Las herramientas también necesitan soporte de evaluación. Los equipos deberían comparar cada nuevo checkpoint con una suite de pruebas conservada que cubra comportamientos anteriores. Un sistema personal de conocimiento puede organizar la evidencia cambiante, pero la retención del modelo aún requiere medición directa.
La adopción por parte de los marcos no demostraría la afirmación de investigación. Mostraría que los ingenieros pueden probar la idea sin mantener una pila de entrenamiento personalizada. Esa accesibilidad suele determinar si un método recibe una evaluación seria en el mundo real.
El estudio de LoRA adaptativo de Penn State ofrece una lección concreta: el rango no es solo un campo de configuración. Controla dónde puede cambiar un modelo, cuánto puede cambiar y qué comportamientos anteriores quedan expuestos a interferencias.
Los desarrolladores deberían plantearse ahora una pregunta más precisa antes de aplicar ajuste fino secuencial. ¿Realmente cada capa necesita la misma capacidad de adaptación, o un rango fijo está ocultando conflictos evitables?
El siguiente paso útil es medible. Ejecute LoRA adaptativo y de rango fijo sobre la misma secuencia de tareas y, después, compare el olvido en la tarea más afectada, la precisión en tareas nuevas, el crecimiento de memoria y el coste de entrenamiento.



