1. Los supuestos clave de la regresión

Nivel 7: Diagnóstico Estadístico Riguroso

Estimar una regresión es trivial: tres líneas de Python y ya tienes una beta. Lo difícil, y lo que separa a un analista serio de alguien que dibuja rectas, es saber bajo qué condiciones esa beta significa algo. Toda la maquinaria estadística que viene después (errores estándar, t, p-valores, intervalos de confianza) descansa sobre un conjunto de supuestos. Si se rompen, los números siguen apareciendo en pantalla, pero dejan de querer decir lo que crees.

Trabajamos con muestras aleatorias del error, de la variable explicativa y de la variable dependiente. Los supuestos habituales se numeran como UR.1 a UR.4.

UR.1 — El proceso generador de datos es lineal en los coeficientes. La población se describe como: Y igual a beta cero más beta uno por X más el error. Ojo con la palabra lineal: se refiere a los coeficientes, no a las variables. Este también es un modelo lineal:

# log(Y) = beta0 + beta1 * (1/X) + error
# Si definimos U = log(Y) y V = 1/X, queda U = beta0 + beta1*V + error
# Sigue siendo lineal en beta0 y beta1, y por tanto estimable por MCO.
import numpy as np
datos['U'] = np.log(datos['Y'])
datos['V'] = 1 / datos['X']

En cambio, un modelo donde el coeficiente aparece elevado al cuadrado o dentro de una exponencial ya no es lineal en los parámetros y MCO no sirve. Fíjate además en algo importante: en un modelo lineal el error y la Y son siempre dependientes (la Y contiene al error), de modo que su covarianza nunca es cero. Lo que sí puede o no ocurrir es que el error dependa de la X. De ahí salen los siguientes requisitos.

UR.2 — El error tiene esperanza cero condicionada a cualquier valor de la explicativa. Sean cuales sean las observaciones de X, los errores promedian cero. Esto implica también que la esperanza del producto del error por la X es cero y que la esperanza incondicional del error es cero. Un caso típico es que X y el error sean independientes con media cero. La consecuencia práctica es preciosa: la esperanza de Y dado X es exactamente beta cero más beta uno por X, es decir, la recta de regresión coincide con la media condicional de Y. Y al revés: si la covarianza entre X y el error no es cero, entonces la esperanza condicional del error no puede ser cero y UR.2 se rompe. En finanzas esto pasa constantemente: si tu factor explicativo está contaminado por algo que también mueve al activo y no has incluido, la beta que estimas está sesgada.

UR.3 — Varianza constante y ausencia de autocorrelación. La varianza del error condicionada a las X es la misma para todas las observaciones (homocedasticidad) y la covarianza entre errores de observaciones distintas es cero (no autocorrelación). Dicho de forma compacta: la matriz de varianzas y covarianzas del vector de errores es la matriz identidad multiplicada por una constante, la varianza del error. Diagonal llena de la misma varianza, ceros fuera de la diagonal.

UR.4 (opcional) — Los errores son normales. Condicionados a las X, se distribuyen como una normal de media cero y esa misma matriz de covarianzas. Es opcional en el sentido de que no hace falta para que MCO funcione bien, pero simplifica enormemente las propiedades de los estimadores y es la que permite construir intervalos y contrastes exactos en muestras pequeñas.