7. Overfitting en regresión: por qué más variables no siempre ayudan
Nivel 4: Correlación, regresión y el mito de la causalidad
Coge un modelo con un R² del 40% y añádele veinte series de números aleatorios, sin ninguna relación con la empresa. El R² puede subir hasta un 55% o un 60%.
No has aprendido nada nuevo sobre la acción. Solo le has dado al modelo veinte formas más de memorizar la muestra.
La misma enfermedad del backtest
Ya viste en el curso de teoría de mercados que una estrategia de trading puede parecer brillante en el backtest y fracasar en vivo. La causa: se ha ajustado en exceso al ruido específico de los datos históricos usados para diseñarla.
La regresión estadística sufre exactamente la misma enfermedad, con un síntoma distinto. En lugar de una regla de trading que memoriza el pasado, es un modelo matemático el que memoriza patrones que no volverán a repetirse.
El hecho mecánico
Hay un hecho mecánico detrás de este problema que conviene interiorizar.
Añadir cualquier variable adicional a una regresión, sea o no relevante económicamente, nunca puede hacer que el R² disminuya. Y casi siempre lo hace subir al menos un poco.
La razón es puramente matemática: cada nueva variable le da al modelo un grado de libertad más para ajustarse a las particularidades exactas de la muestra que tienes delante, encuentre o no una relación real.
Volvamos al ejemplo del principio. Un modelo de tres factores para explicar los rendimientos de una acción alcanza un R² del 40%. Le añades veinte series de números sin ningún significado económico, literalmente ruido aleatorio.
El R² puede subir mecánicamente hasta un 55% o un 60%. No porque esas veinte series aporten información real, sino porque el modelo dispone ahora de veinte grados de libertad adicionales para ajustar los caprichos concretos de esa muestra histórica.
El R² ajustado
Esta propiedad mecánica del R² motivó la creación del R² ajustado.
Es una versión del indicador que penaliza explícitamente el número de variables incluidas, en relación con el número de observaciones disponibles.
A diferencia del R² normal, el R² ajustado sí puede bajar cuando se añade una variable inútil. Eso lo convierte en una herramienta mucho más honesta para decidir si una variable nueva merece quedarse en el modelo.
Casi tantos parámetros como datos
El tamaño de la muestra en relación con el número de variables importa mucho.
Imagina que dispones de solo 25 días de datos y pruebas 15 factores candidatos. El modelo tiene casi tantos parámetros que ajustar como observaciones para ajustarlos.
En ese escenario puede terminar encajando la muestra casi a la perfección sin haber capturado ninguna relación genuina. Y fallará por completo en cuanto se enfrente a datos nuevos.
Es la trampa clásica del sobreajuste por muestra pequeña.
Dos agravantes conocidos
La multicolinealidad, ya vista en el módulo 5, empeora todavía más este problema cuando conviven muchos factores candidatos correlacionados entre sí.
El procedimiento de ajuste puede asignar coeficientes muy inestables, que cambian de signo con solo mover ligeramente la ventana de datos usada. Es un síntoma claro de que el modelo está ajustando ruido en lugar de señal.
Y existe también la versión estadística del data snooping ya visto en backtesting: probar decenas de combinaciones distintas de factores sobre el mismo histórico hasta encontrar una con un R² llamativamente alto.
Por pura probabilidad, entre suficientes combinaciones probadas, alguna acabará pareciendo excelente en la muestra, sin que eso garantice nada sobre su comportamiento futuro.
La disciplina que lo corrige
La disciplina que corrige este problema es la misma que ya conoces del backtesting, aplicada ahora a modelos estadísticos. Son dos pasos:
- Reservar una parte de los datos como muestra de validación, completamente al margen del proceso de búsqueda de variables.
- Evaluar el modelo final una única vez sobre esos datos nunca vistos.
A eso se suma un principio de parsimonia. Ante dos modelos con un poder explicativo similar, preferir siempre el que usa menos variables, cada una respaldada por una razón económica clara, frente al que simplemente maximiza el R² dentro de la muestra.