Modelo lineal

En estadística , el término modelo lineal se refiere a cualquier modelo que presupone linealidad en el sistema. Su uso más frecuente se da en relación con los modelos de regresión, y a menudo se considera sinónimo de modelo de regresión lineal . Sin embargo, también se emplea en el análisis de series temporales con un significado diferente. En ambos casos, la denominación "lineal" se utiliza para identificar una subclase de modelos que permiten una reducción sustancial de la complejidad de la teoría estadística asociada.

Para el caso de regresión, el modelo estadístico es el siguiente. Dada una muestra (aleatoria)${\displaystyle (Y_{i},X_{i1},\ldots ,X_{ip}),\,i=1,\ldots ,n}$la relación entre las observaciones${\displaystyle Y_{i}}$y las variables independientes${\displaystyle X_{ij}}$se formula como

${\displaystyle Y_{i}=\beta _{0}+\beta _{1}\phi _{1}(X_{i1})+\cdots +\beta _{p}\phi _{p}(X_{ip})+\varepsilon _{i}\qquad i=1,\ldots ,n}$

dónde${\displaystyle \phi _{1},\ldots ,\phi _{p}}$pueden ser funciones no lineales . En lo anterior, las cantidades${\displaystyle \varepsilon _ {i}}$son variables aleatorias que representan errores en la relación. La parte "lineal" de la designación se relaciona con la apariencia de los coeficientes de regresión ,${\displaystyle \beta _{j}}$de forma lineal en la relación anterior. Alternativamente, se puede decir que los valores predichos correspondientes al modelo anterior, a saber:

${\displaystyle {\hat {Y}}_{i}=\beta _{0}+\beta _{1}\phi _{1}(X_{i1})+\cdots +\beta _{p}\phi _{p}(X_{ip})\qquad (i=1,\ldots ,n),}$

son funciones lineales de la${\displaystyle \beta _{j}}$.

Dado que la estimación se realiza sobre la base de un análisis de mínimos cuadrados , las estimaciones de los parámetros desconocidos${\displaystyle \beta _{j}}$se determinan minimizando una función de suma de cuadrados

${\displaystyle S=\sum _{i=1}^{n}\varepsilon _{i}^{2}=\sum _{i=1}^{n}\left(Y_{i}-\beta _{0}-\beta _{1}\phi _{1}(X_{i1})-\cdots -\beta _{p}\phi _{p}(X_{ip})\right)^{2}.}$

De esto se desprende fácilmente que el aspecto "lineal" del modelo significa lo siguiente:

• La función que se va a minimizar es una función cuadrática de la${\displaystyle \beta _{j}}$para el cual la minimización es un problema relativamente sencillo;
• Las derivadas de la función son funciones lineales de la${\displaystyle \beta _{j}}$facilitando la búsqueda de los valores mínimos;
• los valores minimizadores${\displaystyle \beta _{j}}$son funciones lineales de las observaciones${\displaystyle Y_{i}}$;
• los valores minimizadores${\displaystyle \beta _{j}}$son funciones lineales de los errores aleatorios${\displaystyle \varepsilon _ {i}}$lo que hace que sea relativamente fácil determinar las propiedades estadísticas de los valores estimados de${\displaystyle \beta _{j}}$.

Un ejemplo de modelo de serie temporal lineal es un modelo autorregresivo de media móvil . Aquí el modelo para valores {${\displaystyle X_{t}}$} en una serie temporal se puede escribir de la forma

${\displaystyle X_{t}=c+\varepsilon _{t}+\sum _{i=1}^{p}\phi _{i}X_{ti}+\sum _{i=1}^{q}\theta _{i}\varepsilon _{ti}.\,}$

donde nuevamente las cantidades${\displaystyle \varepsilon _ {i}}$son variables aleatorias que representan innovaciones que son nuevos efectos aleatorios que aparecen en un momento determinado pero que también afectan los valores de${\displaystyle X}$en momentos posteriores. En este caso, el uso del término "modelo lineal" se refiere a la estructura de la relación anterior al representar${\displaystyle X_{t}}$como una función lineal de los valores pasados ​​de la misma serie temporal y de los valores actuales y pasados ​​de las innovaciones. ^{[ 1 ]} Este aspecto particular de la estructura significa que es relativamente sencillo derivar relaciones para las propiedades de media y covarianza de la serie temporal. Nótese que aquí la parte "lineal" del término "modelo lineal" no se refiere a los coeficientes.${\displaystyle \phi _{i}}$y${\displaystyle \theta _{i}}$, como ocurriría en el caso de un modelo de regresión, que tiene una estructura similar.

Existen otros casos en los que se utiliza el término "modelo no lineal" para contrastarlo con un modelo de estructura lineal, aunque el término "modelo lineal" no se suele aplicar. Un ejemplo de ello es la reducción de dimensionalidad no lineal .

• modelo lineal general
• Modelo lineal generalizado
• Función predictora lineal
• Sistema lineal
• Regresión lineal
• Modelo estadístico