Prosedur Pemilihan Model dalam Regresi

Forward Selection, Backward Elimination, dan Stepwise

Prosedur Pemilihan Model Berdasarkan Kriteria Tertentu

Ada 3 prosedur yang bisa dilakukan dalam pemilihan Model. Pemilihan ini berdasarkan pada kriteria pada statistik tertentu, antara lain :

1. Forward Selection

Metode forward selection dilakukan dengan cara memasukkan prediktor secara bertahap, prediktor ini berdasarkan korelasi parsial terbesar. Dalam metode forward selection, variabel prediktor yang dimasukkan dalam model tidak akan dapat dikeluarkan lagi. Proses tersebut dihentikan ketika prediktor-prediktor baru tidak bisa meningkatkan berpengaruh secara signifikan (sig di bawah 0.05) terhadap variable respon. Karena itulah prosedur forward selection menjadi salah satu prosedur pemilihan model terbaik dalam regresi dengan eliminasi variabel bebas yang membangun model secara bertahap. Ada beberapa cara yang dapat digunakan dalam pengujian dengan metode forward selection ini.

Berikut ini adalah langkah-langkah melakukan forward selection menggunakan SPSS:

  • Dimulai dengan model yang hanya memuat konstan.
  • Kemudian pilihlah variabel independen dengan probabilitas dari F terkecil. Jika probabilitas tersebut lebih kecil dari probability to entry, maka variabel independen tersebut masuk ke dalam modell.
  • Selanjutnya laukan proses tersebut sampai kriteria di atas tidak terpenuhi.

2. Backward Elimination

Metode Backward Elimination dilakukan dengan cara memasukkan semua prediktor kemudian mengeliminasi satu persatu hingga tersisa prediktor yang signifikan saja. Eliminasi ini didasarkan pada prediktor yang memiliki nilai sig F yang di atas 0.1.

Berikut ini adalah langkah-langkah melakukan backward elimination menggunakan SPSS:

  • Pertama-tama masukkan semua variabel independen ke dalam model.
  • Pada tiap langkahnya, jika variabel independen yang menghasilkan probabilitas dari F terbesar, lebih besar dibandingkan dengan probability to remove maka variabel independen tersebut dikeluarkan dari dalam model.
  • Proses dapat dihentikan jika semua probability dari F lebih kecil dibandingkan dengan probability to remove.

3. Stepwise

Metode ini merupakan kombinasi dari kedua model di atas. Pada tiap tahapnya dimungkinkan sebuah variabel dimasukkan atau dikeluarkan dari model. Jika menggunakan tools SPSS, langkah-langkah untuk menjalankan analisis regresi dengan metode Stepwise sama dengan metode Forward Selection. Yang berbeda hanya mengganti pada kotak method dan pilih Stepwise.

Dari ketiga metode di atas baik forward selection, backward elimination, dan stepwise memiliki tujuan yang sama, yaitu untuk mengurangi kemungkinan adanya muktikolinearitas dari persamaan/model yang dihasilkan.

Diposting oleh , pada 18 June 2017