El proceso de derivación del método de estimación de mínimos cuadrados para la estimación de parámetros del modelo econométrico multivariado

El método de estimación de mínimos cuadrados de parámetros del modelo de regresión lineal múltiple es un método de estimación de parámetros de uso común. Su idea básica es estimar parámetros minimizando la suma de cuadrados de los residuos. Su proceso de derivación incluye modelos hipotéticos y. definiciones La suma de los cuadrados de los residuos es la siguiente:

1. Modelo hipotético

Supongamos que existe un modelo de regresión lineal múltiple de la siguiente forma:

y = β0 + β1x1 + β2x2 + ... + βpxp + ε

donde y es la variable dependiente, x1, x2,...xp son variables independientes, β0, β1, β2,..., βp son parámetros desconocidos y ε es el término de error.

El objetivo es estimar estos parámetros desconocidos. El método de mínimos cuadrados es un método de estimación de parámetros de uso común. Su idea básica es estimar parámetros minimizando la suma de cuadrados de los residuos.

II. Definición de suma de cuadrados residual

La definición de suma de cuadrados residual es:

RSS = Σ[(y_i - (β0 + β1x1_i + β2x2_i + ... + βpxp_i))^2]

Nuestro objetivo es encontrar un conjunto de β0, β1, β2,..., βp que minimice el RSS.

Encontrar las derivadas parciales de RSS con respecto a β0, β1, β2,.... ... + βpxp_i))xj_i] (j=1, 2, ... , p)

Para hacer la derivada parcial 0, obtenemos:

Σ[ (y_i - (β0 + β1x1_i + β2x2_i + ..... + βpxp_i))] = 0

Σ[(y_i - (β0 + β1x1_i + β2x2_i + ... + βpxp_i))xj_i] = 0 (j=1, 2, ..., p)

Ventajas y desventajas de la estimación por mínimos cuadrados de parámetros del modelo de regresión lineal múltiple

Ventajas

1. El principio es simple y fácil de implementar.

2. La solución óptima es única y se puede resolver mediante el método de descenso de gradiente.

3. La mejor función que coincida con los datos se puede encontrar minimizando la suma de cuadrados de los errores.

4. Puede usarse para ajuste de curvas y otros problemas de optimización.

II. Desventajas

1. En la ecuación formal, cuando la variable independiente y la variable dependiente tienen errores aleatorios con media cero y la misma varianza, este método puede dar significancia estadística. Los mejores resultados de ajuste de parámetros.

2. Cuando existen múltiples linealidades, la estimación de mínimos cuadrados puede no ser única o precisa.

Cuando hay heterocedasticidad, las estimaciones de mínimos cuadrados pueden no ser insesgadas.

3. Para problemas de mínimos cuadrados no lineales o problemas de mínimos cuadrados con restricciones, es necesario utilizar otros métodos para resolverlos.