Adquiriendo señal…
Adquiriendo señal…
Lección 12 de 12· Matemáticas
0 de 12 lecciones · 0 %
El teorema espectral exigía simetría. La factorización LU exigía que la matriz fuese cuadrada. La diagonalización exigía suficientes autovectores. La descomposición en valores singulares no exige nada:
con de tamaño cualquiera, de ortogonal, de ortogonal y diagonal con entradas no negativas ordenadas de mayor a menor:
donde es el rango. Cuadrada o rectangular, invertible o singular, simétrica o no: la SVD existe siempre.
Como y son ortogonales —rotaciones o reflexiones— y solo estira ejes, la factorización dice:
Toda transformación lineal es una rotación, seguida de un estiramiento por ejes, seguida de otra rotación.
Eso es exactamente lo que viste en la lección 4: el círculo unidad va siempre a parar a una elipse. Las columnas de son las direcciones de entrada que siguen siendo perpendiculares después de la transformación; las de , sus imágenes normalizadas; y los , las longitudes de los semiejes.
La construcción reduce el problema al teorema espectral. La matriz es simétrica y semidefinida positiva —porque —, así que por la lección 11 tiene base ortonormal de autovectores y autovalores no negativos:
Y se comprueba que los así construidos son ortonormales. La SVD conecta además los cuatro subespacios de la lección 8 de la forma más limpia posible:
| Subespacio | Base ortonormal |
|---|---|
Una sola factorización entrega bases ortonormales de los cuatro. Nada más lo hace.
Desarrollando el producto se obtiene la forma más útil de la SVD:
Cada sumando es una matriz de rango 1: un patrón vertical multiplicado por uno horizontal. La matriz entera es la superposición de esos patrones, ordenados del más importante al más irrelevante por sus .
Truncar la suma en términos da , y aquí llega el teorema que justifica media ciencia de datos:
Teorema de Eckart-Young. De todas las matrices de rango , la que más se parece a —tanto en norma espectral como en norma de Frobenius— es . Y el error cometido es exactamente .
Que un teorema dé a la vez la mejor respuesta posible y una fórmula cerrada para el error es algo raro en matemática aplicada. Por eso la SVD aparece en compresión, en reducción de dimensionalidad, en eliminación de ruido, en sistemas de recomendación y en regularización.
Una imagen en escala de grises de son números. Guardar su aproximación de rango requiere los vectores de , los de y los valores singulares:
Con son números: un factor de compresión de , y en imágenes reales suele bastar para que la diferencia sea difícil de ver. El criterio para elegir no es la vista sino la energía acumulada:
Se elige el que retiene, por ejemplo, el 99 %. En el laboratorio verás el efecto contrario con el ruido: como el ruido no tiene estructura, reparte su energía entre todos los valores singulares y aplana la curva. Por eso truncar la SVD es también un filtro: elimina buena parte del ruido y conserva la señal.
Una matriz tiene valores singulares , , y el resto por debajo de . ¿Cuál es su rango numérico razonable?
Sea una tabla de observaciones y variables. El análisis de componentes principales consiste en:
La matriz de covarianza es , simétrica y semidefinida positiva: es exactamente el objeto de la lección 11. PCA es el teorema espectral aplicado a la covarianza, calculado por SVD para no formar explícitamente y no elevar al cuadrado la condición — el mismo argumento de la lección 9.
La SVD resuelve también los dos casos que quedaron abiertos en la lección 8. Definiendo la pseudoinversa , donde invierte los no nulos y deja en cero los demás:
Un solo objeto que cubre los tres casos. Y el número de condición de la lección 7 se lee directamente del espectro: .
Calcular la SVD diagonalizando —como hacen el laboratorio y el código de arriba— es didáctico y perfectamente válido a tamaños pequeños, pero eleva al cuadrado el número de condición: valores singulares por debajo de se pierden. Las bibliotecas serias usan bidiagonalización de Golub-Kahan seguida de un QR implícito, que trabaja siempre sobre . Para matrices enormes ni siquiera eso: se usan métodos aleatorizados que estiman los primeros valores singulares sin tocar el resto.
Y una advertencia sobre PCA: es una técnica lineal. Si la estructura de los datos es una curva o una variedad enrollada, las componentes principales no la capturan. Tampoco es invariante a la escala de las variables: si una está en metros y otra en milímetros, la segunda dominará el espectro. Estandarizar antes de aplicar PCA no es un detalle, es parte del método.
Las doce lecciones han recorrido un solo hilo. Un vector es una lista con dos operaciones; combinándolos aparece el span y con él la dimensión; una matriz es la función que respeta esas operaciones; el determinante mide cuánto deforma; la eliminación resuelve y la factorización guarda; los cuatro subespacios explican existencia y unicidad; la ortogonalidad da la mejor respuesta cuando no hay respuesta exacta; los autovalores encuentran las direcciones que la transformación respeta; la simetría los hace reales y ortogonales; y la SVD extiende todo eso a cualquier matriz.
Lo que sigue depende de a dónde vayas: Señales y Sistemas usará bases ortogonales y autovalores en cada lección; Inteligencia Artificial, gradientes, formas cuadráticas y PCA; Elasticidad, tensores simétricos y sus direcciones principales; Mecánica Orbital, cambios de base y rotaciones. En los cuatro casos volverás a encontrarte esta lección con otro vocabulario.
Cierre de la lección
Sigue el recorrido de la lección paso a paso.
Con una cuenta desbloqueas el cuestionario, el foro de dudas y el tutor con IA de esta lección, además del registro de progreso y el certificado verificable al terminar «Álgebra Lineal: la geometría detrás de las matrices».