Full-text resources of CEJSH and other databases are now available in the new Library of Science.
Visit https://bibliotekanauki.pl


2013 | 132 | 115-126

Article title

Symulacyjna ocena jakości zagregowanych modeli zbudowanych metodą wektorów nośnych


Title variants

Benchmarking Aggregated Support Vector Regression Models

Languages of publication



Support Vector Machines (SVM) are a state-of-the-art classification method, but they are also suitable, after a special reformulation, to perform a regression task. Similarly to classification, for a nonlinear regression problem, SVMs use the kernel trick and map the input space into a high-dimensional feature space first, and then perform linear regression in the high-dimensional feature space. One can use the model ensemble approach to try to improve the prediction accuracy. The paper presents the comparison of a single SVM, aggregated SVM and other regression models (linear regression, Projection Pursuit Regression, Neural Networks, Regression Trees, Random Forest, Bagging) by the means of a mean squared test set error.






Physical description



  • Breiman L.: Bagging Predictors.,,Machine Learning" 1996, No. 24.
  • Cristianini N., Shawe-Taylor J.: An Introduction to Support Vector Machines (and Other Kernel-based Learning Methods). Cambridge University Press, Cambridge 2000.
  • Friedman J.: Multivariate Adaptive Regression Splines. "The Annals of Statistics" 1991, 19 (1).
  • Gatnar E.: Podejście wielomodelowe w zagadnieniach dyskryminacji i regresji. Wydawnictwo Naukowe PWN, Warszawa 2008.
  • Gunn S.R.: Support Vector Machines for Classification and Regression. Technical Report, Image Speech and Intelligent Systems Research Group, University of Southampton, 1997.
  • Rozmus D.: Random forest jako metoda agregacji modeli dyskryminacyjnych. W: Taksonomia 11. Klasyfikacja i analiza danych - teoria i zastosowania. Red. K. Jajuga, M. Walesiak. Wydawnictwo Akademii Ekonomicznej, Wrocław 2004, s. 441-448.
  • Smola A., Schölkopf B.: Learning with Kernels. Support Vector Machines, Regularization, Optimization, and Beyond. MIT Press, Cambridge, USA, 2002.
  • Trzęsiok M.: Analiza wybranych własności metody dyskryminacji wykorzystującej wektory nośne. W: Postępy ekonometrii. Red. A.S. Barczak. Wydawnictwo Akademii Ekonomicznej, Katowice 2004, s. 331-342.
  • Trzęsiok M.: Metoda wektorów nośnych w konstrukcji nieparametrycznych modeli regresji. W: Taksonomia 12. Klasyfikacja i analiza danych. Red. K. Jajuga, M. Walesiak. Wydawnictwo Akademii Ekonomicznej, Wrocław 2005, s. 501-510.
  • Vapnik V.: Statistical Learning Theory. John Wiley & Sons, Nowy Jork 1998.

Document Type

Publication order reference



YADDA identifier

JavaScript is turned off in your web browser. Turn it on to take full advantage of this site, then refresh the page.