Matriz asociada a la proyección ortogonal sobre el subespacio columna de una matriz

18 de octubre de 2008 · Imprimir Imprimir

Decíamos en el post anterior que:

Dada una matriz M se llama subespacio columna de M al subespacio vectorial generado por el conjunto de vectores que conforman las columnas de la matriz M. La dimensión de este subespacio coincide con el rango de la matriz M. Además, si M es una matriz cualquiera, la matriz asociada a la proyección ortogonal sobre el subespacio columna de M es M(M^t M)^{-1} M^t.

En este post vamos a justificar esta afirmación.

Sea Y \in R^n y sea \{X_1, \ldots, X_k \} un conjunto de k vectores de R^n. A continuación dispongamos los mencionados k vectores como las columnas de una matriz M. Deseamos encontrar una matriz -a la que llamaremos H_M- que convierte el vector Y \in R^n en su proyección ortogonal sobre el espacio columna de la matriz M. Es decir, deseamos encontrar H_M tal que H_M Y sea la proyección ortogonal de Y \in R^n en C(M).

Como se trata de una proyección ortogonal sobre C(M), el vector H_M Y -Y debe ser ortogonal a C(M) y, en particular, debe ser ortogonal a las columnas de la matriz M por lo que M^t (H_M Y – Y)=0. Desarrollando la anterior ecuación llegamos a que M^t H_M Y = M^t Y.

Por otra parte, H_M Y \in C(M) -es decir, es combinación lineal de las columnas de la matriz M- por lo que se puede expresar en la forma H_M Y = M C siendo C un vector de orden (k,1).

Sustituyendo en la expresión anterior llegamos a que M^t MC = M^t Y y despejando C tendremos que C=(M^t M)^{-1} M^t Y.

Por último, como H_M Y = M C resulta que H_M Y = M (M^t M)^{-1} M^t Y con lo que la matriz que transforma Y en su proyección ortogonal sobre C(M) es H_M = M (M^t M)^{-1} M^t .

7 comentarios »

  1. Andre ha dicho,

    16 de 16 de 2010 @ 6:58 am

    Muy claro, la unica duda que me quedó es si M’M es siempre inversible, siendo M’ la traspuesta de M.

    Muchas gracias, un fuerte abrazo!

  2. Juanjo ha dicho,

    16 de 16 de 2010 @ 7:44 am

    Hola Andre:

    Supongamos que la matriz M tiene m filas y n columnas. Entonces, el rango de la matriz M es como mucho min(m,n) y como las matrices M y M’M tienen el mismo rango resulta que:

    - M’M tiene dimensión (n,n) y rango menor o igual que min(m,n)

    Podemos distinguir dos casos:

    Caso I: m>=n

    - M’M tiene dimensión (n,n) y rango menor o igual que n. Esta matriz será invertible si y sólo si su rango es n, lo que ocurrirá cuando todas las columnas de la matriz M sean linealmente independientes.

    Caso II: n>m

    - M’M tiene dimensión (n,n) y rango menor o igual que m. Como m es menor que n, esta matriz nunca será de pleno rango y, por tanto, no es invertible.

    En resumen, para que M’M sea invertible deben cumplirse las siguientes dos condiciones:

    1) El número de filas de M tiene que ser mayor o igual que el número de columnas.
    2) Las n columnas de M, consideradas como vectores m-dimensionales, tienen que formar un conjunto linealmente independiente.

    Espero que te sirva.

  3. Juanjo ha dicho,

    16 de 16 de 2010 @ 7:54 am

    En cualquier caso, si las columnas de la matriz M formaran un conjunto linealmente dependiente, podríamos eliminar aquellas columnas de M que causen la dependencia lineal y llegaríamos a una matriz (llamémosla N) que generaría el mismo espacio columna que la matriz original M. Esta matriz N cumpliría que N’N es invertible.

  4. Andre ha dicho,

    18 de 18 de 2010 @ 9:00 am

    Muchísimas gracias Juanjo! Necesitaría las demostraciones del primer y segundo teorema fundamental del Álgebra Lineal. En que libro podría encontrarlas? Tienes idea? De nuevo muchas gracias!

  5. Juanjo ha dicho,

    18 de 18 de 2010 @ 9:13 am

    A lo mejor te sirve este enlace de la Wikipedia:

    http://en.wikipedia.org/wiki/Fundamental_theorem_of_linear_algebra

    Un libro excelente (y sencillo a la vez) es el de Gilbert Strang, que se cita al final de la entrada de Wikipedia a la que te remito.

    Espero que te sirva.

  6. Juanjo ha dicho,

    18 de 18 de 2010 @ 9:20 am

    También tienes este documento de Gilbert Strang:

    http://home.eng.iastate.edu/~julied/classes/CE570/Notes/strangpaper.pdf

    Saludos.

  7. Andre ha dicho,

    19 de 19 de 2010 @ 1:23 pm

    Muchas gracias Juanjo, voy a ver de que se trata y espero entender algo!

    Un abrazo!

Deja un comentario