Estimation of regression parameters of two dimensional probability distribution mixtures

• Authors: Sitek Grzegorz

Title variants

PL

Estymacja parametrów regresji mieszanki dwuwymiarowych rozkładów prawdopodobieństwa

• Languages of publication: EN

Abstracts

EN

We use two methods of estimation parameters in a mixture regression: maximum likelihood (MLE) and the least squares method for an implicit interdependence. The most popular method for maximum likelihood esti-mation of the parameter vector is the EM algorithm. The least squares method for an implicit interdependence is based solving systems of nonlinear equations. Most frequently used method in the estimation of parameters mixtures regression is the method of maximum likelihood. The article presents the possibility of using a different the least squares method for an implicit interdependence and compare it with the maximum likelihood method. We compare accuracy of two methods of estimation by simulation using bias: root mean square error and bootstrapping standard errors of estimation.

PL

Do estymacji parametrów mieszanek regresji stosujemy dwie metody: metodę największej wiarygodności oraz metodę najmniejszych kwadratów dla zależności niejawnych. Najbardziej popularną metodą polegającą na maksymalizacji funkcji wiarygodności jest algorytm EM. Metoda najmniejszych kwadratów dla zależności niejawnych polega na rozwiązaniu układu równań nieliniowych. Najczęściej stosowaną metodą estymacji parametrów mieszanek regresji jest metoda największej wiarygodności. W artykule pokazano możliwość zastosowania innej metody najmniejszych kwadratów dla zależności niejawnych. Obie metody porównujemy symulacyjnie, używając obciążenia estymatora, pierwiastka błędu średniokwadratowego estymatora oraz bootstrapowe błędy standardowe.

Keywords

EN

EM algorithm; Least squares method for an implicite interdependence; Mixture regression model

PL

Algorytm EM; Metoda najmniejszych kwadratów dla zależności niejawnych; Mieszanki regresji

• Publisher: Uniwersytet Ekonomiczny w Katowicach
• Journal: Studia Ekonomiczne
• Year: 2016
• Volume: 304
• Pages: 30-46

Contributors

author

Sitek Grzegorz

• Uniwersytet Ekonomiczny w Katowicach. Wydział Zarządzania. Katedra Statystyki

References

• Antoniewicz R. (1988), Metoda najmniejszych kwadratów dla zależności niejawnych i jej zastosowanie w ekonomii, Wydawnictwo Akademii Ekonomicznej we Wrocławiu, Wrocław.
• Benaglia T., Chauveau D., Hunter D.R., Young D. (2009), Mixtools: an R Package for Analyzing Finite Mixture Models, “Journal of Statistical Software”, Vol. 32, Issue 6.
• McLachlan G.J., Peel D. (2000), Finite Mixture Models, John Wiley & Sons, New York.
• Dogru F.Z., Arslan O. (2014), Robust Mixture Regression Based on the Skew t Distribution, Ankara University, Ankara.
• De Veaux R.D. (1989), Mixtures of Linear Regressions, “Computational Statistics and Data Analysis”, No. 8, s. 227-245.
• Dempster A.P., Laird N.M., Rubin D.B. (1977), Maximum Likelihood from Incomplete Data Via the EM Algorithm, “Journal of the Royal Statistical Society B”, No. 39(1), s. 1-38.
• Efron B., Tibshirani R. (1993), An Introduction to the Bootstrap, Chapman & Hall, London.
• Lindsay B.G. (1995), Mixture Models: Theory, Geometry and Applications, Institute of Mathematical Statistics, Hayward.
• Pruska K. (1992), Metoda największej wiarygodności a regresja przełącznikowa, „Folia Oeconomica”, nr 117, s. 107-130.
• Quandt R.E. (1972), A New Approach to Estimating Switching Regressions, “Journal of the American Statistical Association”, No. 67(338), s. 306-310.
• Quandt R.E., Ramsey J.B. (1978), Estimating Mixtures of Normal Distributions and Switching Regressions, “Journal of the American Statistical Association”, No. 73(364), s. 730-738.

Identifiers

ISSN

2083-8611