Prosedur Pemilihan Model dalam Regresi
Forward Selection, Backward Elimination, dan Stepwise
Prosedur Pemilihan Model Berdasarkan Kriteria Tertentu
Ada 3 prosedur yang bisa dilakukan dalam pemilihan Model. Pemilihan ini berdasarkan pada kriteria pada statistik tertentu, antara lain :
1. Forward Selection
Metode forward selection dilakukan dengan cara memasukkan prediktor secara bertahap, prediktor ini berdasarkan korelasi parsial terbesar. Dalam metode forward selection, variabel prediktor yang dimasukkan dalam model tidak akan dapat dikeluarkan lagi. Proses tersebut dihentikan ketika prediktor-prediktor baru tidak bisa meningkatkan berpengaruh secara signifikan (sig di bawah 0.05) terhadap variable respon. Karena itulah prosedur forward selection menjadi salah satu prosedur pemilihan model terbaik dalam regresi dengan eliminasi variabel bebas yang membangun model secara bertahap. Ada beberapa cara yang dapat digunakan dalam pengujian dengan metode forward selection ini.
Berikut ini adalah langkah-langkah melakukan forward selection menggunakan SPSS:
- Dimulai dengan model yang hanya memuat konstan.
- Kemudian pilihlah variabel independen dengan probabilitas dari F terkecil. Jika probabilitas tersebut lebih kecil dari probability to entry, maka variabel independen tersebut masuk ke dalam modell.
- Selanjutnya laukan proses tersebut sampai kriteria di atas tidak terpenuhi.
2. Backward Elimination
Metode Backward Elimination dilakukan dengan cara memasukkan semua prediktor kemudian mengeliminasi satu persatu hingga tersisa prediktor yang signifikan saja. Eliminasi ini didasarkan pada prediktor yang memiliki nilai sig F yang di atas 0.1.
Berikut ini adalah langkah-langkah melakukan backward elimination menggunakan SPSS:
- Pertama-tama masukkan semua variabel independen ke dalam model.
- Pada tiap langkahnya, jika variabel independen yang menghasilkan probabilitas dari F terbesar, lebih besar dibandingkan dengan probability to remove maka variabel independen tersebut dikeluarkan dari dalam model.
- Proses dapat dihentikan jika semua probability dari F lebih kecil dibandingkan dengan probability to remove.
3. Stepwise
Metode ini merupakan kombinasi dari kedua model di atas. Pada tiap tahapnya dimungkinkan sebuah variabel dimasukkan atau dikeluarkan dari model. Jika menggunakan tools SPSS, langkah-langkah untuk menjalankan analisis regresi dengan metode Stepwise sama dengan metode Forward Selection. Yang berbeda hanya mengganti pada kotak method dan pilih Stepwise.
Dari ketiga metode di atas baik forward selection, backward elimination, dan stepwise memiliki tujuan yang sama, yaitu untuk mengurangi kemungkinan adanya muktikolinearitas dari persamaan/model yang dihasilkan.
Artikel
- Analytical Hierarchy Process
- Aplikasi untuk Olah Data Statistik
- Belajar SPSS
- Cross Tabulasi
- Data Envelopment Analysis
- Estimasi dalam Regresi Linear
- Jasa Olah Data Skripsi, Tesis, dan Penelitian di Jakarta
- Microsoft Excell untuk Olah Data
- Model Persamaan Struktural
- Model Probit
- Olah Data Menggunakan EViews
- Penelitian dan Data
- Penelitian Kualitatif dan Kuantitatif
- Penelitian Murni dan Penelitian Semu
- Permasalahan dalam Olah Data
- Persamaan Model Regresi Linear
- Prosedur Pemilihan Model dalam Regresi
- Regresi Logistik menggunakan Minitab
- Sejarah Model Persamaan Struktural
- Statistik Parametric dan Non Parametric
- Uji Anova Dua Faktor
- Uji Coba Instrument, Uji Validitas, Try Out
- Uji Mantel Haenszel