HAIR : Resume Stage 4

Stage 4 : Mengestimasi Model Regresi dan Memeriksa Kecocokan Model Secara Keseluruhan

Memilih Teknik Estimasi

Ø      Confirmatory Specification

Teknik ini merupakan pendekatan untuk menspesifikasi model regresi untuk memastikan confirmatory perspective, peneliti memiliki kontrol total pada aktivitas ini dengan menentukan susunan variable yang akan dimasukkan secara tepat.

Ø      Sequential Search Method

Persamaan Regresi dengan mempertimbangkan suatu susunan variable yang dijelaskan oleh peneliti dan secara selektif menambahkan maupun menghilangkan variable hingga semua criteria terpenuhi. Ada 2 cara :

1.      Stepwise Estimation

Pendekatan yang memungkinkan peneliti menguji kontribusi tiap variable independent pada model regresi. Tiap variable dipertimbangkan untuk disertakan dalam mengembangkan persamaan. Langkah-langkahnya yaitu :

1.      Dimulai dengan model regresi sederhana dengan memilih satu variable independent yang paling berkorelasi dengan variable dependen.

2.      Menguji partial correlation coefficients untuk menemukan variable independent tambahan yang menjelaskan porsi signifikansi statistik yang terbesar dari unexplained (error) variance sisa dari persamaan regresi pertama.

3.      Kembali menghitung persamaan regresi untuk menemukan dua independent variable dan menguji partial F value untuk variable original dalam model untuk melihat apakah masih tetap memberi kontribusi yang signifikan.

4.      Melanjutkan prosedur dengan menguji semua variable independen yang tidak ada dalam model untuk menentukan apakah salah satunya secara statistic dapat ditambahkan pada persamaan yang telah ada dan harus dimasukkan dalam persamaan yang telah direvisi.

5.      Melanjutkan penambahan variable independent hingga tidak ada kandidat variable yang tersisa untuk dimasukkan yang mungkin dapat berkontribusi dalam pengembangan signifikansi statistik dalam akurasi prediktif.

Bias berpotensi dalam hasil prosedur ini dari pertimbangan satu variable selection dalam satu waktu, begitu pula dengan multikolinearitas.

2.      Forward Addition and Backward Elimination

Teknik ini adalah proses trial dan error untuk menemukan persamaan regresi terbaik yang dimulai dengan variable independent tunggal dimana prosedur backward elimination dimulai dengan persamaan regresi termasuk semua variable independent lalu membuang variable independent yang tidak berkontribusi dalam signifikansi.

Perbedaan mendasar dari Stepwise Estimation dan Forward Addition and Backward Elimination adalah kemampuannya untuk menambahkan atau mengurangi variable di tiap stage. Sekali variable ditambahkan atau dibuang dalam forward addition atau dalam skema backward elimination, aksinya tidak dapat direvisi dalam stage selanjutnya. Sedangkan dalam stepwise method, untuk menambah dan membuang  membuatnya lebih dipilih oleh para peneliti.

Caveats to Sequential Search Method

Sequential Search Method terlihat sebagai solusi sempurna dalam dilema apabila dihadapkan dengan pendekatan confirmatory approach dengan mencapai kekuatan prediktif maksimum dengan hanya variable yang berkontribusi dalam signifikansi saja yang dijumlahkan.

1.      Multikolinearitas diantara variable independent telah berdampak dalam model spesifikasi final. Kriteria untuk memasukkan dan membuang dalam pendekatan ini adalah memaksimalkan tahapan prediktif dalam penambahan variable. Apabila satu dari valiabel ini masuk dalam model regresi, sangat mungkin variable lain juga masuk karena mereka saling berkorelasi dan menampilkan variance unik secara terpisah.

2.      Semua sequential method menciptakan loss control di sebagian peneliti. Meski peneliti menentukan variable yang dipertimbangkan untuk variat regresi. Itu adalah teknik estimasi, menginterpretasikan data empiris yang menentukan model regresi final.

3.      Multiple significance test dilakukan dalam proses estimasi. Untuk menjamin tingkat error keseluruhan daintara semua tes signifikansi dimungkinkan. Peneliti harus menggunakan batas konservatif dalam menambah dan mengurangi variable.

Ø      Combinational Approach

Proses pencarian secara umum diantara semua kombinasi yang mungkin dalam variable independent. Prosedur yang paling dikenal yaitu all-possible-subsets regression, yang mengkombinasikan variabel independen yang diuji dan keselarasan terbaik dalam indentifikasi susunan variabel.

Penggunaan pendekatan ini telah menurun selama kritisasi dari :

1.      Atheoritical Nature

2.      Lack of consideration of such factor sebagai multikolinearitas, identifikasi outliers dan pengaruhnya, dan iterpretasi hasil.

Ø      Review The Model Selection Approach

Kriteria paling penting dari pengetahuan peneliti dari konteks riset adalah pondasi teori yang yang membolehkan sebuah subyek dan persepektif diinformasikan pada variable untuk dimasukkan dalam magnitude koefisien. Tanpa pengetahuan ini, hasil regresi dapat memiliki akurasi yang prediktif tapi sedikit relevansi manajerial dan teori.

Menguji Variate Regresi dalam Asumsi Regresi

            Dengan independen variabel yang diseleksi dan estimasi koefisien regresi. Penulis harus memeriksa model estimasi dalam asumsi linearitas, varians konstan, independen, dan normalitas.

Menguji Signifikansi Pada Model

Signifikansi dalam Model Keseluruhan : Mengetes Koefisien Determinasi

Tiga rasio penting yang harus diperhatikan :

1.      Membagi tiap jumlah squares dengan hasil degrees of freedom yang tepat (df) di dalam sebuah estimasi varians.

2.      Apabila rasio varians yang dijelaskan tinggi, maka regresi variat pasti dalam nilai signifikan dalam menjelaskan dependen variabel.

3.      Meskipun hasil nilai R² dalam nilai F yang lebih tinggi, pemeriksaan peneliti haris tetap berdasarkan signifikansi praktis yang terpisah dari signifikansi statistik.

Adjusting Koefisien Determinasi

            Sebelumnya telah didiskusikan dalam menjelaskan degrees of freedom, penambahan variabel akan selalu meningkatkan nilai R². Adjusted Coefficient of Determinasi (adjusted R²) didapat bersamaan dengan koefisien determinasi. Interpretasi sama dengan unadjusted koefisien determinasi. Adjusted R² menurun saat kita memiliki observasi per variabel independen. Adjusted R² secara parsial bermanfaat dalam membandingkan antara persamaan regresi yang melibatkan angka yang berbeda dari variabel independen atau perbedaan sampel karena itu membuat kelonggaran pada degree of freedom di tiap model.

Tes Signifikasi Koefisien Regresi

Membangun Confidence Interval

Tes signifikan dari koefisien regresi adalah berdasarkan statistik mungkin mengestimasi koefisien antara banyak sampel dalam ukuran yang pasti tentu saja akan berbeda dari nol.

Ö  Significance level (Alpha)

Menunjukkan perubahan peneliti yang akan melakukan kesalahan, apakah koefisien estimasi berbeda dari nol. Sebuah nilai biasanya menggunakan .05, sebagai keinginan peneliti untuk meminimalisasi kesalahan, dan susunan level signifikan bisa menjadi lebih rendah menjadi .01, .001.

Ö  Sampling Error

Penyebab variasi dalam estimasi koefisien regresi untuk tiap sampel yang digambarkan oleh populasi. Untuk sampel berskala kecil, sampling error lebih besar dan koefisien estimasi lebih veragam dari sampel ke sampel.

Ö  Standar Error

Variasi yang diharapkan dari koefisien estimasi, krduanya konstan dan koefisien regresi selama sampling error.

Dengan confidence interval di tangan, saat ini peneliti harus bertanya dalam tiga pertanyaan mengenai signifikansi dari koefisien regresi :

1.      Apakah signifikansi statistik sudah terjadi ?

2.      Bagaimana sample size membantu kegiatan ini ?

3.      Apakah hal ini memperbaiki praktek signifikansi dalam penambahan statistical significance?

Indentifikasi Influential Observation         

Tipe Influential Observations

Ä     Outliers

Observasi yang memiliki tingkat nilai residual yang besar dan dapat diidentifikasi hanya dengan berpegang pada model regresi spesifik.

Ä     Leverage Points

Observasi yang berbeda dari observasi sebelumnya, krena berdasarkan nilai variabel independen.

Ä     Influential Observations adalah kategori terbesar, yang termasuk semua observasi yang memiliki efek yang tidak seanding dalam hasil regresi.

Mengidentifikasi Influential Observations

Beberapa cara umum observasi influensial dan korespondensinya dengan pola residual :

ð     Reinforcing

Salah satu teknik terbaik, yang memperkuat pola umum dari data dan merendahkan standar error prediksi dan koefisien

ð     Conflicting

Influential points dapat memiliki efek yang kontras dengan pola umum dari sisa data, namun masih memiliki residu kecil. Dua observasi influential hampir semuanya terhitung observed relationship, karena tanpa mereka tidak ada pola yang dibangun dari data poin.

ð     Multiple Influential Points\

Bekerja seiring dengan hasil. Dua influential poin memiliki kesamaan posisi relatif, membuat deteksi menjadi semakin susah. Influential memiliki perbedaan posisi namun memiliki efek yang mirip dengan hasil.

ð     Shifting

Influential observation mungkin berefek pada semua hasil dengan cara yang serupa, dimana slope konstan sedangkan intercept bergeser.

Remedies for Influentials

1. Sebuah error observasi dan entri data
2. valid namun observasi tertentu hanya dijelaskan dalam situasi tertentu
3. Observasi tertentu tanpa likely explanation
4. Observasi biasa dalam karakterindividualnya namun dengan karakteristik kombinasi tertentu.