…y además es un mínimo global

14 de octubre de 2008 · Imprimir Imprimir

En un post anterior hemos demostrado que cuando la solución que asignamos al vector de incógnitas \beta es igual a {\left({X^tX} \right)}^{-1}  X^tY entonces la suma de cuadrados de los residuos alcanza un mínimo local. Pero, ¿podemos afirmar que ese mínimo local es un mínimo global?

La respuesta es afirmativa y una forma de demostrarlo es la siguiente:

Sea \tilde{B} una solución alternativa para el vector de incógnitas \beta. En ese caso, el modelo de ajuste original Y=X B + e se convierte en Y=X \tilde{B} + \tilde{e}.

Ahora, podemos despejar \tilde{e} de la anterior expresión y obtenemos \tilde{e}=Y – X \tilde{B}.

La nueva suma de cuadrados de los residuos vendrá dada por:

{\tilde{e}}^t \tilde{e} = {\left( Y – X \tilde{B} \right )}^t \left( Y – X \tilde{B} \right )

Pero:

\left( Y – X \tilde{B} \right ) = Y – XB + XB – X \tilde{B} = e + X \left( B – \tilde{B} \right)

De aquí se deduce que:

{\tilde{e}}^t \tilde{e} = {\left[ e + X \left( B - \tilde{B} \right) \right]}^t {\left[ e + X \left( B - \tilde{B} \right) \right]}

y haciendo algunas sencillas operaciones:

{\tilde{e}}^t \tilde{e} = {\left[ e^t + \left( B^t - {\tilde{B}}^t \right) X^t \right]} {\left[ e + X \left( B - \tilde{B} \right) \right]}

Desarrollando el producto llegamos a que:

{\tilde{e}}^t \tilde{e} = e^t e + e^t X \left( B – \tilde{B} \right) + \left( B^t – {\tilde{B}}^t \right) X^t e + \left ( B^t – {\tilde{B}}^t \right) X^t X \left( B – \tilde{B} \right)

Es muy sencillo comprobar que X^t e -y, por tanto e^t X es igual a 0 por lo que nos queda:

{\tilde{e}}^t \tilde{e} = e^t e +  \left ( B^t – {\tilde{B}}^t \right) X^t X \left( B – \tilde{B} \right)

Pero:

\left ( B^t – {\tilde{B}}^t \right) X^t X \left( B – \tilde{B} \right)  = \| {X \left( B – \tilde{B} \right) } \| ^2

De donde resulta que:

{\tilde{e}}^t \tilde{e} = e^t e + \| {X \left( B – \tilde{B} \right) } \| ^2 \ge e^t e

ya que  \| {X \left( B – \tilde{B} \right) } \| ^2 es el cuadrado del módulo de un vector y por tanto es necesariamente no negativo.

Hemos demostrado así que el valor {\left({X^tX} \right)}^{-1}  X^tY para el vector de incógnitas \beta proporciona un mínimo global para la suma de los cuadrados de los residuos.

Deja un comentario