2. 2
INTRODUCCIÓN
Uno de los aspectos más relevantes de la Estadística es el análisis de la relación o dependencia entre variables.
Frecuentemente resulta de interés conocer el efecto que una o varias variables pueden causar sobre otra, e incluso predecir
en mayor o menor grado valores en una variable a partir de otra. Los métodos de regresión estudian la construcción de
modelos para explicar o representar la dependencia entre una variable respuesta o dependiente (Y ) y la(s) variable(s)
explicativa(s) o dependiente(s), X .
3. 3
HISTORIA DE LA REGRESIÓNLINEAL SIMPLE
La primera forma de regresión lineal documentada fue el método de los mínimos cuadrados que fue publicada por Legendre
en 1805, Gauss publicó un trabajo en donde desarrollaba de manera más profunda el método de los mínimos cuadrados, y
en dónde se incluía una versión del teorema de Gauss-Márkov.
El término regresión se utilizó por primera vez en el estudio de variables antropométricas: alcomparar la estatura de padres
e hijos, donde resultó que los hijos cuyos padres tenían una estatura muy superior al valor medio, tendían a igualarse a
éste, mientras que aquellos cuyos padres eran muy bajos tendían a reducir su diferencia respecto a la estatura media; es
decir PE NE, "regresaban" al promedio.2
La constatación empírica de esta propiedad se vio reforzada más tarde con la
justificación teórica de ese fenómeno.
El término lineal se emplea para distinguirlo del resto de técnicas de regresión, que emplean modelos basados en cualquier
clase de función matemática. Los modelos lineales son una explicación simplificada de la realidad, mucho más ágiles y con
un soporte teórico mucho más extenso por parte de la matemática y la estadística.
CONCEPTO DE REGRESIÓN LINEAL SIMPLE
Es una técnica estadística para investigar la relación funcional entre dos o más variables, ajustando algún modelo
matemático.
La regresión lineal simple utiliza una sola variable de regresión y el caso más sencillo es el modelo de línea recta.
Supóngase que se tiene un conjunto de n pares de observaciones (xi,yi), se busca encontrar una recta que describa de la
mejor manera cada uno de esos pares observados. Todas las rectas la que mejor se ajuste a los datos observados, es
decir, buscamos aquellos valores de β0 y β1 que hagan mínimos los errores de estimación.
4. 4
Cuando la relación lineal concierne al valor medio o esperado de la variable aleatoria, estamos ante un modelo de regresión
lineal simple.
HIPÓTESIS DEL MODELO DE REGRESIÓN LINEAL CLÁSICO
1. Esperanza matemática nula: . Para cada valor de X la perturbación tomará distintos valores
de forma aleatoria, pero no tomará
sistemáticamente valores positivos o negativos, sino que se supone tomará algunos valores mayores que cero y otros
menores que cero, de tal forma que su valor esperado sea cero.
1. Homocedasticidad: para todo t. Todos los
términos de la perturbación tienen la misma varianza que es desconocida. La dispersión de cada en torno a su
valor esperado es siempre la misma.
2. Incorrelación o independencia:
para todo t,s con t distinto de
s. Las covarianzas entre las distintas pertubaciones son nulas, lo que quiere decir que no están correlacionadas.
Esto implica que el valor de la perturbación para cualquier observación muestral no viene influenciado por los
valores de las perturbaciones correspondientes a otras observaciones muestrales.
3. Regresores no estocásticos.
4. Independencia lineal. No existen relaciones lineales exactas entre los regresores.
5. . Suponemos que no existen errores de especificación en el modelo, ni errores de medida en las
variables explicativas.
6. Normalidad de las perturbaciones:
MODELO DE LA REGRESIÓN LINEAL SIMPLE
La estructura del modelo de regresión lineal es la siguiente:
Y = β0 + β1X + ε
OBJETIVO DE LA REGRESIÓN LINEAL SIMPLE:
Tiene como objetivo el estudiar cómo los cambios en una variable, no aleatoria, afectan a una variable aleatoria, en el caso
de existir una relación funcional entre ambas variables que puede ser establecida por una expresión lineal, es decir, su
representación gráfica es una línea recta.
TIPOS DE MODELOS DE REGRESIÓN LINEAL SIMPLE
Existen diferentes tipos de regresión lineal que se clasifican de acuerdo a sus parámetros:
*REGRESIÓN LINEAL SIMPLE
Sólo se maneja una variable independiente, por lo que sólo cuenta con dos parámetros. Son de la forma:4
donde es el error asociado a la medición del valor y siguen los supuestos de modo que
(media cero, varianza constante e igual a un y con ).
5. 5
*REGRESIÓN LINEAL MÚLTIPLE
La regresión lineal permite trabajar con una variable a nivel de intervalo o razón. De la misma manera, es posible analizar la
relación entre dos o más variables a través de ecuaciones, lo que se denomina regresión múltiple o regresión lineal
múltiple.
Constantemente en la práctica de la investigación estadística, se encuentran variables que de alguna manera están
relacionadas entre sí, por lo que es posible que una de las variables puedan relacionarse matemáticamente en función de
otra u otras variables.
Maneja varias variables independientes. Cuenta con varios parámetros. Se expresan de la forma:6
(13)
donde es el error asociado a la medición del valor y siguen los supuestos de modo que
(media cero, varianza constante e igual a un y con ).
*RECTAS DE REGRESIÓN
Las rectas de regresión son las rectas que mejor se ajustan a la nube de puntos (o también llamado diagrama de dispersión)
generada por una distribución binomial. Matemáticamente, son posibles dos rectas de máximo ajuste:7
La recta de regresión de Y sobre X:
La recta de regresión de X sobre Y:
La correlación ("r") de las rectas determinará la calidad del ajuste. Si r es cercano o igual a 1, el ajuste será bueno y las
predicciones realizadas a partir del modelo obtenido serán muy fiables (el modelo obtenido resulta verdaderamente
representativo); si r es cercano o igual a 0, se tratará de un ajuste malo en el que las predicciones que se realicen a partir
del modelo obtenido no serán fiables (el modelo obtenido no resulta representativo de la realidad). Ambas rectas de
regresión se intersecan en un punto llamado centro de gravedad de la distribución.
APLICACIONES DE LA REGRESIÓN LINEAL SIMPLE
*LÍNEAS DE TENDENCIA
Una línea de tendencia representa una tendencia en una serie de datos obtenidos a través de un largo período. Este tipo de
líneas puede decirnos si un conjunto de datos en particular (como por ejemplo, el PBI, el precio del petróleo o el valor de las
acciones) han aumentado o decrementado en un determinado período.
*MEDICINA
En medicina, las primeras evidencias relacionando la mortalidad con el fumar tabaco vinieron de estudios que utilizaban la
regresión lineal. Los investigadores incluyen una gran cantidad de variables en su análisis de regresión en un esfuerzo por
eliminar factores que pudieran producir correlaciones espurias. En el caso del tabaquismo, los investigadores incluyeron el
6. 6
estado socio-económico para asegurarse que los efectos de mortalidad por tabaquismo no sean un efecto de su educación o
posición económica. No obstante, es imposible incluir todas las variables posibles en un estudio de regresión.
*INFORMÁTICA
Utiliza una recta de regresión lineal para proyectar un valor futuro: Código escrito en PHP
SUPOSICIONES DE LA REGRESIÓN LINEAL SIMPLE
Los valores de la variable independiente X son fijos, medidos sin error.
1. La variable Y es aleatoria
2. Para cada valor de X, existe una distribución normal de valores de Y (subpoblaciones Y)
3. Las variancias de las subpoblaciones Y son todas iguales.
4. Todas las medias de las subpoblaciones de Y están sobre la recta.
5. Los valores de Y están normalmente distribuidos y son estadísticamente independientes.
13. 13
CONCLUSIÓN
La ecuación de Regresión Lineal estimada para las variables estatura y peso muestran, de acuerdo a la prueba F.
Además si consideramos el coeficiente de determinación de las variaciones que ocurren en el peso se explicarían por las
variaciones en la variable estatura.
En el estudio de la relación funcional entre dos variables poblacionales, una variable X llamada independiente, explicativa o
predicción y una variable Y, llamada dependiente o variable respuesta.
