LoRA en sonar: más del doble de AUPRC con un 0,26% de pesos

Un modelo de visión congelado, un adaptador que entrena el 0,26 por ciento de los parámetros y el área bajo la curva de precisión y recall que pasa de 0,300 a 0,679. Ese es el resultado principal de LoRA Enhanced Contrastive Learning with SAS Vision Transformers, publicado en arXiv el 22 de septiembre, un trabajo que adapta modelos DINOv3 al reconocimiento automático de objetivos (ATR) en imágenes de sonar de apertura sintética (SAS).

El problema de fondo no es la arquitectura, es el dominio. Un Vision Transformer preentrenado con fotografía ha visto gatos, coches y caras, no la firma acústica de un objeto metálico posado sobre sedimento. A eso se suman tres condiciones que el paper enumera sin adornos: hay poca imagen etiquetada de objetivos, el fondo marino está lleno de rocas y formaciones que imitan objetos fabricados, y al final de la cadena hay un operador humano revisando cada detección.

Tres etapas sobre un backbone congelado

El método se divide en tres pasos, y el paper tiene la honestidad de decir cuál de ellos hace el trabajo de verdad.

1. LoRA con el backbone del ViT congelado, para salvar la distancia entre el preentrenamiento con imagen natural y la propagación acústica submarina.
2. Minado de negativos difíciles, para endurecer la frontera de decisión frente a los imitadores acústicos: rocas y formaciones de sedimento con la silueta equivocada.
3. Aprendizaje contrastivo supervisado (SupCon), para separar las representaciones de objetivo y de clutter.

El efecto principal se lo lleva la primera etapa. Con el mismo backbone congelado, LoRA sube el AUPRC de 0,300 a 0,679 ± 0,027, y lo hace con rango 4, es decir, entrenando el 0,26 por ciento de los parámetros del modelo.

Por qué AUPRC y no precisión

La métrica elegida dice mucho del problema. En un fondo marino los objetivos son rarísimos comparados con el clutter, así que un clasificador que responda siempre aquí no hay nada acierta casi siempre y no sirve para nada. El área bajo la curva de precisión y recall castiga justamente eso. Y como hay un humano revisando, cada falso positivo se paga en minutos de operador, no en una celda de una matriz de confusión.

La metodología es la mitad de la noticia

Hay tres decisiones en la evaluación que merecen tanta atención como la cifra.

El split es geográfico y a nivel de misión. No se reparten imágenes al azar entre entrenamiento y test, se separan misiones enteras. Es la diferencia entre medir si el modelo reconoce objetivos y medir si ha memorizado un trozo concreto de fondo marino.

Todas las comparaciones se hacen al 85 por ciento de recall en test. Fijar el punto de operación evita el truco habitual de comparar dos modelos en zonas distintas de la curva y quedarse con la que favorece.

Cada comparación se repite con tres semillas aleatorias y se reporta la desviación. Con datasets pequeños, una sola semilla afortunada puede explicar buena parte de una mejora.

Nada de esto es exótico, pero se incumple con frecuencia en visión aplicada. Que aquí esté hecho permite leer el 0,679 con bastante más confianza que un número suelto.

Qué se lleva alguien que no trabaja con sonar

El patrón es transferible a cualquier dominio con datos escasos y lejanos a la imagen natural: inspección industrial, imagen médica, teledetección agrícola, control de calidad en planta. La receta es concreta: congelar el backbone, adaptar con LoRA de rango bajo antes de tocar nada más, medir por separado cuánto aporta cada etapa y evaluar con un split que respete la estructura real del dato.

También deja una advertencia. Si el efecto principal viene de la etapa 1, conviene comprobar cuánto aportan de verdad las etapas 2 y 3 en tu caso antes de asumir el coste de implementarlas y mantenerlas.

Es un trabajo aplicado, con un dominio estrecho y un contexto de defensa que no todo el mundo va a compartir, pero la parte metodológica se sostiene sola. Preferimos este tipo de paper, con el punto de operación fijado y las semillas reportadas, a otro con una tabla más grande y un reparto al azar.