Análisis y comunicación de datos cuantitativos

…cuando añadimos una restricción al modelo teórico?

La respuesta es sumamente intuitiva: ¡debe aumentar! ¿Por qué?

Si la estimación de minimos cuadrados de -a la que hemos dado en llamar y que puede tomar cualquier valor en - garantiza que la suma de cuadrados de los residuos es un mínimo global, es claro que si el espacio de búsqueda se restringe a un subespacio afín de -y éste es precisamente el efecto de añadir restricciones al modelo teórico- entonces el mínimo restringido será mayor o igual que el mínimo sin restricciones.

Es sólo una vez aceptado el hecho irrefutable de que la suma de cuadrados de los residuos debe crecer -o al menos no decrecer- al incorporar un conjunto de restricciones lineales al modelo teórico cuando cobra sentido la siguiente cuestión: ¿cuánto aumentará esta suma de cuadrados?

Desde un punto de vista teórico sabemos que la suma de cuadrados en el modelo con restricciones viene dada por . Como la suma de los cuadrados de los residuos en el modelo sin restricciones es deducimos que el incremento en la suma de cuadrados de los residuos debe ser:

Esta expresión -que será muy útil en posteriores desarrollos teóricos- no resulta, sin embargo, adecuada desde el punto de vista computacional.

Afortunadamente podemos seguir otro camino: sabemos que la estimación de con el conjunto de restricciones lineales nos la proporciona la expresión:

De aquí se deduce que el vector de los residuos del modelo sujeto a las restricciones es:

La suma de los cuadrados de los residuos en el modelo con restricciones será:

Esta expresión es igual a:

donde:

es un vector de dimensión (n,1).

Por tanto:

pero como se puede comprobar muy fácilmente:

y

por lo que:

de donde se deduce que el incremento en la suma de cuadrados de los residuos debido a la inclusión de las restricciones lineales es:

Resulta evidente que, por ser , es una suma de cuadrados y, por tanto, es una magnitud no negativa.

Veamos cuál es su valor:

y operando:

Si eliminamos los productos de matrices por sus respectivas inversas llegamos, en primer lugar, a:

y luego a:

o lo que es equivalente:

Aún podemos dar una interpretación adicional a . En efecto, la matriz es semidefinida positiva e invertible y, por tanto, es definida positiva. Este carácter lo comparten las matrices , y .

Ahora, por tratarse de una matriz definida positiva podemos afirmar que define un producto escalar en el espacio vectorial -lo que lo convierte en un espacio normado- y que es el cuadrado de la norma del vector según el mencionado producto escalar que, como cuadrado de un escalar -que ya es, de por sí, no negativo- es no negativo.

Una interpretación intuitiva del incremento en la suma de los cuadrados de los residuos nos la proporciona la concepción de la norma de un vector como una medida de su “longitud“. En este sentido, podemos entender como una medida de la longitud del vector , es decir, una medida de la magnitud en que el estimador sin restricciones incumple las restricciones . Cuanto mayor sea el incumplimiento de estas restricciones mayor será el incremento de la suma de cuadrados de los residuos debido a la incorporación de dichas restricciones al modelo teórico.