Metode Kuadrat Terkecil (MKT) adalah salah satu metode penduga parameter dalam pemodelan regresi. Metode ini menghasilkan penduga yang tak bias selama asumsi-asumsinya dipenuhi. Tetapi, saat asumsi tidak dipenuhi, misalnya disebabkan adanya data pencilan, maka MKT perlu dihindari. Diperlukan metode lain yang dapat mengatasi masalah pencilan, yaitu Metode Regresi Robust (MRR). Salah satu penduga parameter dalam MRR adalah penduga Welsch (MRR-W). Penelitian ini bertujuan untuk membandingkan efektivitas MRR-W dengan MKT dalam melakukan pendugaan parameter model regresi. Perbandingan dianalisis berdasarkan ukuran sampel dan banyaknya pencilan dalam data yang diperoleh dari proses simulasi, serta banyaknya iterasi yang diperlukan oleh MRR-W. Hasil penelitian menunjukkan bahwa untuk berbagai ukuran sampel yang diamati, pendugaan parameter MRR-W menghasilkan model yang lebih baik dari MKT. Hal ini dilihat berdasarkan nilai R2 adjusted hasil MRR-W yang lebih besar dan nilai root mean square error (RMSE) selalu lebih kecil dari model hasil pendugaan MKT. Selain itu, MRR-W lebih efektif dari MKT dalam mengatasi pencilan pada pemodelan regresi linear berganda, karena iterasi yang diperlukan relatif tidak cukup banyak untuk berbagai ukuran sampel dan pencilan dengan memberikan hasil pendugaan parameter model yang lebih baik dari MKT.