Adquiriendo señal…
Adquiriendo señal…
Lección 9 de 12· Matemáticas
0 de 12 lecciones · 0 %
En cualquier problema con datos medidos hay más ecuaciones que incógnitas: 200 observaciones, 3 parámetros. El sistema exige que caiga exactamente en , un subespacio de dimensión 3 dentro de . Con ruido de medida, eso no ocurre nunca.
La reacción correcta no es rendirse ni «forzar» el sistema, sino cambiar la pregunta:
Geométricamente: buscar el punto de más cercano a . Y ya sabemos, desde la lección 3, cómo se encuentra el punto más cercano de un subespacio: proyectando.
La lección 3 proyectaba sobre una recta imponiendo que el residuo fuera perpendicular a un vector. Ahora el subespacio tiene dimensión y hay que imponer que el residuo sea perpendicular a todas las columnas a la vez. Eso es exactamente :
Estas son las ecuaciones normales. Obsérvese lo que ha pasado: un sistema de 200 ecuaciones incompatible se ha convertido en uno de 3 ecuaciones con 3 incógnitas y solución única. Proyectar reduce el problema a la dimensión del modelo.
Si las columnas de son independientes, es invertible —se demuestra viendo que implica , luego , luego — y entonces
La matriz es la generalización directa de la de la lección 3, y cumple lo mismo: y .
La función que se minimiza es
una forma cuadrática (lección 11) con matriz definida positiva cuando las columnas son independientes. Su gráfica es un cuenco convexo: no hay mínimos locales, ni mesetas, ni sillas. Por eso las curvas de nivel del laboratorio son elipses concéntricas alrededor de un único punto, y por eso el ajuste lineal es tan estable comparado con casi cualquier ajuste no lineal: aquí no hay que buscar, hay que resolver.
La forma de esas elipses no es un detalle estético. Cuanto más alargadas, peor condicionado está el problema y más sensible es la solución al ruido — el número de condición de la lección 7, ahora visible.
Si las columnas de fueran ortonormales —llamémoslas —, entonces y todo se simplifica de golpe:
Sin inversas, sin sistemas: cada coordenada es un producto punto, y cambiar una no afecta a las demás. Ese desacoplamiento es lo que hace útiles a las bases ortonormales en todas partes: los senos y cosenos de Fourier en Señales y Sistemas, las componentes principales en la lección 12, las bases de wavelets en compresión de imagen.
Dada una base cualquiera , el procedimiento construye una ortonormal restando a cada vector sus proyecciones sobre los anteriores —es decir, quitándole todo lo que ya estaba representado:
Si en algún paso , ese era combinación de los anteriores: el procedimiento detecta la dependencia lineal sin buscarla.
Guardando los coeficientes usados se obtiene, gratis, la factorización QR:
Y con ella los mínimos cuadrados se resuelven sin formar nunca :
un sistema triangular, resoluble por sustitución hacia atrás. Esto importa mucho más de lo que parece: formar eleva al cuadrado el número de condición, . Un problema con —perfectamente resoluble por QR— se vuelve irresoluble en doble precisión si se pasa por las ecuaciones normales. Por eso las bibliotecas serias resuelven mínimos cuadrados con QR o con SVD, nunca con las ecuaciones normales.
Ajustemos a los puntos , y . La matriz de diseño y el término independiente son
Las ecuaciones normales:
Resolviendo: y . Restando el doble de la primera a la segunda: , luego y . La recta ajustada es .
Los valores predichos son , y , y los residuos , , . Dos comprobaciones que siempre deben cumplirse: los residuos suman cero (porque la primera columna de es de unos, y el residuo es ortogonal a ella) y su producto punto con la columna también es cero: .
Un problema de mínimos cuadrados tiene . ¿Qué método conviene usar?
Minimizar la suma de cuadrados tiene una justificación estadística sólida —es el estimador de máxima verosimilitud si el ruido es gaussiano e independiente— y una debilidad conocida: castiga los errores grandes de forma cuadrática, así que un solo dato atípico puede arrastrar toda la recta. Compruébalo en el laboratorio activando el outlier.
Dos avisos más, que valen para cualquier ajuste:
El Gram-Schmidt clásico que hemos escrito es el correcto en aritmética exacta y inestable en coma flotante: los vectores dejan de ser ortogonales según avanza. Las implementaciones reales usan la variante modificada o, mejor, reflexiones de Householder. Y si las columnas de son dependientes, no es invertible y no hay solución única; la elección canónica —la de norma mínima— exige la pseudoinversa de la lección 12. En el laboratorio, los datos vienen de un generador de semilla fija con un modelo cuadrático conocido, de modo que puedes comparar los coeficientes ajustados con los verdaderos.
Hasta aquí hemos estudiado qué hace una matriz a los subespacios. En la lección 10 preguntamos otra cosa: ¿hay direcciones que la matriz respete, que solo estire sin girar?
Cierre de la lección
Sigue el recorrido de la lección paso a paso.
Con una cuenta desbloqueas el cuestionario, el foro de dudas y el tutor con IA de esta lección, además del registro de progreso y el certificado verificable al terminar «Álgebra Lineal: la geometría detrás de las matrices».