Adquiriendo señal…
Adquiriendo señal…
Lección 3 de 10· Inteligencia artificial
0 de 10 lecciones · 0 %
La regresión lineal predice un valor numérico continuo (precio, temperatura, tiempo de entrega) como una combinación lineal de las variables de entrada. En su versión más simple, con una sola variable , el modelo es una recta:
donde es la pendiente (cuánto cambia por cada unidad que cambia ) y es la ordenada al origen (el valor de cuando ). Entrenar el modelo significa encontrar los valores de y que mejor describen un conjunto de puntos observados .
Para saber si una recta es "buena" necesitamos una forma de medir cuánto se equivoca. La métrica estándar es el error cuadrático medio (MSE, mean squared error): para cada punto, se calcula la diferencia entre el valor real y la predicción , se eleva al cuadrado (para que los errores positivos y negativos no se cancelen y para penalizar más los errores grandes) y se promedia:
Entrenar la regresión lineal es, literalmente, buscar los valores de y que minimizan el MSE. Esto se puede hacer con descenso de gradiente (lección 2) o, para este caso particular, con una fórmula cerrada llamada mínimos cuadrados, que calcula directamente la pendiente óptima a partir de las medias y varianzas de los datos:
donde y son las medias de e . Experimenta ajustando la recta a una nube de puntos y observa cómo cambia el MSE:
Regresión lineal por mínimos cuadrados
Error cuadrático medio: 11.4864
Seis estudiantes anotan sus horas de estudio y su calificación . Las medias son e . Restando las medias, las desviaciones de son ; multiplicándolas por las de y sumando se obtiene , y . Por tanto:
Cada hora de estudio adicional sube la calificación unos 6.4 puntos, y la recta predice para quien estudie 7 horas. Los residuos de los seis puntos son pequeños (el mayor, de algo más de un punto) y el MSE vale 0.27. Para saber qué parte de la variación explica la recta se usa el coeficiente de determinación:
Aquí : la recta explica el 99.8 % de la variación de las calificaciones. Un cercano a 0 indicaría que la recta no explica casi nada, por ejemplo si no hay relación entre e .
La fórmula cerrada solo existe para modelos lineales con pocas variables. El método general es el descenso de gradiente de la lección 2 aplicado al MSE. Derivando respecto a cada parámetro, con residuo :
Si la recta pasa por debajo de casi todos los puntos, los residuos son positivos, las dos derivadas son negativas y el paso sube y , justo lo que hace falta. Como el MSE de un modelo lineal es una función cuadrática de , su superficie es un cuenco con un único mínimo: el descenso de gradiente, con una tasa de aprendizaje adecuada, siempre llega a la misma recta que la fórmula cerrada.
Hay una sutileza práctica. Con entre 1 y 6, cambiar altera mucho más el error que cambiar , así que el cuenco está muy alargado: en el ejemplo, sus curvaturas valen aproximadamente 32 y 0.36 (número de condición cercano a 90). La tasa de aprendizaje queda limitada por la dirección empinada () y la dirección plana avanza muy despacio. La solución habitual es centrar (o estandarizar) las variables: usar en lugar de desacopla y , deja un cuenco casi redondo y permite pasos mucho más grandes.
Al elevar los residuos al cuadrado, un solo dato atípico lejos de la nube tira de la recta con mucha fuerza: un residuo de 40 puntos pesa tanto como cien residuos de 4. Además, la regresión lineal asume que la relación es aproximadamente una recta; si los datos describen una curva, el modelo dará un error grande por mucho que se entrene. Y, como cualquier modelo aprendido, solo es fiable cerca de los datos que ha visto: extrapolar a 30 horas de estudio daría una calificación de 238, que no tiene sentido.
El siguiente ejemplo calcula la pendiente y la ordenada al origen de la recta de mínimos cuadrados usando solo listas y el módulo estándar math — sin librerías externas como NumPy, para que puedas ejecutarlo tal cual en el sandbox del navegador:
Al ejecutarlo obtendrás exactamente los números del ejemplo resuelto: , , un MSE de 0.27 y una predicción de 90.3 para 7 horas.
En el laboratorio, la escena de la izquierda muestra los puntos, la recta actual, sus residuos y la recta de mínimos cuadrados; la de la derecha, el mapa del MSE en el plano con la trayectoria del descenso. Con el escenario «Horas de estudio (lección)» pulsa «Entrenar»: la lectura «MSE: descenso / fórmula cerrada» converge hacia 0.27, aunque tarda cientos de pasos por el cuenco alargado. Abre «Ajustes avanzados», activa «Centrar x» y repite: la trayectoria va mucho más directa al óptimo. Después sube la tasa de aprendizaje por encima del valor de «η crítico» (unos 0.063 sin centrar) para ver divergir el entrenamiento, y por último arrastra un punto lejos de la nube para ver cómo un dato atípico hace girar la recta.
¿Por qué un único dato atípico puede desplazar mucho la recta de mínimos cuadrados?
Cierre de la lección
Sigue el recorrido de la lección paso a paso.
Con una cuenta desbloqueas el cuestionario, el foro de dudas y el tutor con IA de esta lección, además del registro de progreso y el certificado verificable al terminar «Inteligencia Artificial».