Mínimos cuadrados ordinarios para niños

Los Mínimos Cuadrados Ordinarios (MCO), también conocidos como Mínimos Cuadrados Lineales, son un método muy importante en la estadística. Se usan para encontrar los mejores valores de los parámetros en un modelo de regresión lineal. Imagina que tienes un conjunto de puntos en un gráfico y quieres dibujar una línea recta que se ajuste lo mejor posible a esos puntos. El método MCO hace exactamente eso: busca la línea que minimiza la suma de las distancias al cuadrado entre cada punto y la línea.

Este método es muy útil en campos como la economía (en una rama llamada econometría) y la ingeniería eléctrica (en el control de sistemas y el procesamiento de señales).

¿Qué es un Modelo Lineal?

Un modelo lineal es una forma de describir cómo una variable (a la que llamamos "respuesta" o "dependiente") se relaciona con otras variables (llamadas "explicativas" o "predictoras"). Piensa en ello como una receta matemática.

Por ejemplo, si quieres predecir la altura de una planta (variable de respuesta) basándote en la cantidad de agua que recibe (variable explicativa), podrías usar un modelo lineal.

La idea es que la variable de respuesta se puede expresar como una combinación sencilla de las variables explicativas, más un pequeño "error" o diferencia que no podemos explicar.

Supuestos Clave para MCO

Para que el método MCO funcione bien y sus resultados sean confiables, se deben cumplir algunas condiciones importantes. Estas condiciones nos aseguran que la línea que encontramos es la mejor posible para nuestros datos.

Aquí te explicamos los supuestos más importantes de forma sencilla:

• Los errores deben ser "esféricos": Esto significa dos cosas:

* Homocedasticidad: Los errores (las diferencias entre lo que el modelo predice y lo que realmente ocurre) deben tener la misma "dispersión" o variabilidad en todos los puntos de los datos. Imagina que los errores son como burbujas; todas deberían tener un tamaño similar. Si no es así, se llama heterocedasticidad. * No autocorrelación: Los errores no deben estar relacionados entre sí. El error de una observación no debe influir en el error de otra. Esto es especialmente importante cuando trabajamos con datos que cambian con el tiempo, como el crecimiento de una planta día a día.

• Exogeneidad estricta: Las variables explicativas no deben estar relacionadas con los errores. Es decir, la información que usamos para predecir no debe estar mezclada con las cosas que no podemos explicar. Si están relacionadas, las predicciones de MCO podrían no ser correctas.
• No dependencia lineal: Las variables explicativas deben ser diferentes entre sí. Ninguna variable explicativa debe ser una combinación perfecta de otras. Por ejemplo, si tienes una variable para "edad en años" y otra para "edad en meses", estas estarían perfectamente relacionadas y causarían problemas. Esto se conoce como multicolinealidad.

Cuando se cumplen estas condiciones, el método MCO nos da las mejores estimaciones posibles para los parámetros del modelo.

Modelo Clásico de Regresión Lineal

Este es el enfoque más común para entender MCO. Se centra en cómo funcionan las estimaciones cuando tenemos un número fijo de observaciones (una "muestra finita").

• Especificación Correcta: El modelo que usamos (la forma lineal) debe ser el adecuado para describir la relación entre las variables.
• Exogeneidad Estricta: Como mencionamos antes, los errores no deben tener relación con las variables explicativas.
• No hay dependencia lineal: Las variables explicativas deben ser independientes entre sí.
• Errores Esféricos: Los errores deben tener la misma varianza y no estar correlacionados entre sí.

Observaciones Independientes e Idénticamente Distribuidas (IID)

En algunos casos, especialmente cuando los datos se toman de diferentes individuos o lugares al mismo tiempo (datos de corte transversal), se asume que cada observación es independiente de las demás y sigue el mismo patrón. Esto simplifica el análisis y ayuda a entender cómo se comportan las estimaciones cuando tenemos muchos datos.

Modelo de Series de Tiempo

Cuando trabajamos con datos que se recolectan a lo largo del tiempo (como la temperatura diaria o el precio de una acción), los supuestos cambian un poco. Aquí, es importante que el proceso que genera los datos sea "estacionario" (sus propiedades no cambian mucho con el tiempo) y que las variables explicativas no estén relacionadas con los errores futuros.

¿Cómo se Calcula?

El objetivo de MCO es encontrar los valores de los parámetros (los números que multiplican a las variables explicativas en la ecuación) que hacen que la suma de los cuadrados de los errores sea lo más pequeña posible.

Imagina que tienes una línea y quieres que pase lo más cerca posible de todos tus puntos. MCO calcula la distancia vertical de cada punto a la línea, eleva esa distancia al cuadrado (para que los valores negativos no se cancelen con los positivos y para dar más peso a los errores grandes), y luego suma todos esos cuadrados. El objetivo es minimizar esa suma.

La fórmula para encontrar estos parámetros se ve un poco complicada, pero las computadoras la calculan muy rápido. Una vez que tenemos los parámetros, podemos dibujar la "línea de mejor ajuste" y usarla para hacer predicciones.

Por ejemplo, si tenemos un modelo simple con una sola variable explicativa (como la cantidad de agua y el crecimiento de la planta), las fórmulas para calcular los parámetros son más sencillas:

• El parámetro que multiplica a la variable explicativa (la pendiente de la línea) se calcula dividiendo la relación entre las variables por la variabilidad de la variable explicativa.
• El otro parámetro (el punto donde la línea cruza el eje Y) se calcula usando el promedio de las variables.

¿Para qué sirve?

Una vez que hemos estimado los parámetros, podemos evaluar qué tan bien se ajusta nuestro modelo a los datos. Una medida común es el coeficiente de determinación R². Este número nos dice qué proporción de la variación en la variable de respuesta puede ser explicada por nuestro modelo. Un R² cercano a 1 significa que el modelo se ajusta muy bien a los datos, mientras que un valor cercano a 0 indica un ajuste pobre.

En resumen, los Mínimos Cuadrados Ordinarios son una herramienta poderosa para entender relaciones entre variables y hacer predicciones, siempre y cuando se usen correctamente y se entiendan sus limitaciones.

Véase también

En inglés: Ordinary least squares Facts for Kids