2. Propiedades de MCO y el teorema de Gauss-Markov

Nivel 7: Diagnóstico Estadístico Riguroso

Antes de hablar de por qué MCO es bueno, conviene separar dos cosas que en el lenguaje corriente se confunden. Un estimador es una regla que se puede aplicar a cualquier muestra de datos para producir un número. Una estimación es el número concreto que sale al aplicar esa regla a una muestra concreta. La beta que aparece en tu tabla de resultados es una estimación; la fórmula de mínimos cuadrados es el estimador. Y como el estimador se aplica sobre una muestra aleatoria, el estimador es él mismo una variable aleatoria: tiene media, tiene varianza y tiene distribución. Todo el análisis estadístico consiste en estudiar esas tres cosas.

De la propia construcción de MCO se derivan tres propiedades que se cumplen siempre, muestra a muestra, sin necesidad de ningún supuesto:

1. La suma de los residuos MCO es cero (y por tanto su media muestral también).

2. La covarianza muestral entre cada regresor y los residuos es cero: la suma de los productos de cada X por su residuo es cero.

3. El punto formado por la media de X y la media de Y siempre está sobre la recta estimada: si evalúas la recta en la media de X, obtienes exactamente la media de Y.

Podemos comprobarlo sobre un modelo de factores ya estimado:

# modelo es un resultado ya ajustado, por ejemplo un modelo de factores
modelo.resid.plot()          # la nube de residuos a lo largo del tiempo
modelo.resid.mean()          # sale algo del orden de 1e-18: cero numérico

# Covarianza muestral entre el regresor de mercado y los residuos
sum(modelo.resid.values * df_stock_factor['MKT'].values)   # ~ 0
import numpy as np
np.cov(modelo.resid.values, df_stock_factor['MKT'].values)  # fuera de diagonal ~ 0

Tanto la suma como la covarianza salen prácticamente cero. Es importante entender que esto no es una validación del modelo: son identidades algebraicas que se cumplirían igual con un modelo absurdo. Si alguien te enseña una media de residuos de cero como prueba de que su modelo está bien, no te ha enseñado nada.

Lo que sí justifica usar MCO y no cualquier otro estimador es el teorema de Gauss-Markov: bajo los supuestos UR.1 a UR.3, el estimador MCO es BLUE (mejor estimador lineal insesgado) y consistente. Desglosemos las siglas.

Lineal. Escrito en notación matricial, el modelo relaciona el vector Y con la matriz X de forma lineal, y el estimador resultante es una combinación lineal de las observaciones de Y.

Insesgado. Se demuestra que la beta estimada es igual a la beta verdadera más un término que depende del error. Al tomar esperanzas y aplicar la ley de esperanzas iteradas, ese término se anula precisamente porque UR.2 dice que la esperanza del error condicionada a X es cero. Conclusión: la esperanza del estimador es el parámetro verdadero. Cuidado con lo que esto significa: no garantiza que tu estimación concreta esté cerca del valor verdadero. Significa que si pudieras extraer muestras aleatorias una y otra vez y calcular la estimación cada vez, el promedio de todas esas estimaciones se acercaría al parámetro verdadero.

Mejor (eficiente). Cuando hay varios métodos insesgados donde elegir, el mejor es el de menor varianza. Usando UR.3, la matriz de varianzas y covarianzas del estimador MCO se reduce a la varianza del error multiplicada por la inversa del producto de la matriz de regresores por su traspuesta. Ningún otro estimador lineal e insesgado consigue una varianza menor.