Setiap orang dalam hidupnya sering membuat estimasi. Apabila akan menyeberang jalan, kita menaksir berapa kecepatan kendaraan yang melewati jalan pada saat itu. Sehingga kita dapat memutuskan akan menyeberang atau tidak, para manajer pun berbuat hal yang sama. Mereka harus menaksir jumalah konsumennya dan kemampuan debiturnya, kelengkapan produk yang dijualnya, pelaku pesaingnya, dan sebagainya. Apa yang mereka putuskan biasanya dilandasi oleh estimasi-estimasi yang berasal dari informasi yang tidak lengkap dan diselubungi oleh ketidakpastian yang besar, sehingga hasilnya pun kurang memadai. Dengan penguasaan dan pemikiran teknik estimasi yang lebih baik diharapkan juga hasilnya akan bertambah baik.
Dalam alam realitas, parameter yang sebenarnya ingin diketahui jarang diperoleh. Parameter pada umumnya tidak diketahui karena populasinya tidak berhingga besarnya, atau kalau berhingga jumaksimum likelihoodahnya terlalu besar untuk diteliti seluruhnya dibanding biaya, waktu, dan tenaga yang tersedia (Tiro, 2000: 75). Di samping itu besarnya populasi seringkali tidak dapat diketahui, seperti banyaknya ikan di Laut Jawa, banyaknya kayu meranti di Hutan Kalimantan, jumlah total produksi lampu yang ada, dan sebagainya.
Untuk mengestimasi parameter suatu populasi maka diambil sebuah sampel yang representatif, sebelum estimasi dilakukan, perlu diketahui lebih dulu keadaan populasi variabel random tersebut secara apriori, seperti bentuk distribusinya, dan karakteristik parameter-parameter lain. Walaupun kerapkali informasi tentang populasinya sangat minimal, informasi yang diperoleh secara apriori itu kemudian dapat ditambahkan pula dengan informasi yang diperoleh dari sampel itu sendiri.
Dalam statistika inferensial, ada dua bagian penting yang menjadi pusat perhatian yaitu estimasi parameter dan pengujian hipotesis. Jika parameter populasi tidak diketahui maka dilakukan estimasi tapi jika parameter diketahui maka dilakukan pengujian hipotesis untuk menguji kebenaran dari asumsi tentang parameter. Dalam mengestimasi parameter, maka perlu memilih metode yang tepat sesuai dengan keadaan dari populasi yang diteliti. Dalam statistika inferensi, biasanya diasumsikan bahwa distribusi populasi diketahui. Teknik yang digunakan untuk menaksir nilai parameter bila distribusi populasi diketahui adalah metode maximum likelihood. Metode ini hanya mendasarkan inferensinya pada sampel. Tetapi jika distribusi populasi tidak diketahui maka metode maksimum likelihood tidak dapat digunakan. Bayes memperkenalkan suatu metode dimana kita perlu mengetahui bentuk distribusi awal (prior) dari populasi yang dikenal dengan metode Bayes. Sebelum menarik sampel dari suatu populasi terkadang kita peroleh informasi mengenai parameter yang akan diestimasi. Informasi ini kemudian digabungkan dengan informasi dari sampel untuk digunakan dalam mengestimasi parameter populasi.
Menurut Bayes, parameter populasi berasal dari suatu distribusi, sehingga nilainya tidaklah tunggal (merupakan variabel random), sedangkan menurut metode klasik parameter populasi diasumsikan tetap (konstan) walaupun nilainya tidak diketahui. Masing-masing pendekatan sudah tentu mempunyai kelebihan dan kekurangan masing-masing. Pada metode maksimum likelihood, teknik estimasi parameternya lebih mudah, sehingga orang banyak menggunakan teknik ini. Akan tetapi teknik ini hanya dapat digunakan bilamana distribusi populasi diketahui. Selain itu, metode maksimum likelihood sangat sensitive terhadap data ekstrim. Data ekstrim ini sangat berpengaruh terhadap nilai rata-rata ataupun variansi. Pada metode Bayes, karena nilai parameternya berasal dari suatu distribusi, maka kesulitan pertama yang dijumpai adalah bagaimana bentuk distribusi parameter tersebut. Walaupun untuk menentukan distribusi prior dari parameter adalah sulit, tetapi estimasi parameter dengan metode Bayes tampaknya lebih menjanjikan karena peneliti tidak perlu tahu tentang distribusi prior dari populasi.
Pada metode Bayes seorang peneliti harus menentukan distribusi prior dari parameter yang ditaksir. Penentuan distribusi parameter ini menurut Hogg & Craig (1978) sangatlah subyektif. Semakin berpengalaman seseorang, maka semakin mudahlah ia menentukan distribusi priornya. Sudah tentu penentuan distribusi prior ini harus berdasarkan alur berpikir yang logis (Bernando & Smith, 1994). Setelah informasi dari data (yang didapat dari pengambilan sampel) digabungkan dengan informasi prior dari parameter, akan didapat distribusi posterior dari parameter.
Metode maksimum likelihood mendasarkan inferensinya hanya pada informasi yang dikandung dalam sampel. Informasi prior tidak dimasukkan dalam analisa statistik formal. Metode tersebut pada dasarnya menafsirkan probabilitas sebagai frekuensi relatif (probabilitas obyektif). Bayes menggunakan interpretasi probabilitas secara subyektif di dalam analisa statistika formal. Pendekatan Bayes terhadap metode estimasi statistik menggabungkan informasi yang dikandung dalam sampel dengan informasi lain yang telah tersedia sebelumnya. Dari segi asumsi statistikawan klasik memandang bahwa parameter populasi mempunyai harga tertentu yang tidak diketahui sehingga pernyataan probabilitas tentang parameter populasi tidak mempunyai arti. Sebaliknya para pengikut Bayes mengakui adanya ketidakpastian tentang parameter populasi sehingga kita dapat membuat pernyataan probabilitas tentang parameter populasi. Metode Bayes membuat pernyataan probabilitas tentang , sedangkan metode klasik membuat pernyataan probabilitas tentang hasil sampel.
Dalam mengestimasi parameter pemilihan metode estimasi sangat penting. penggunaan metode harus sesuai dengan kondisi populasi, misalnya apakah distribusi populasi diketahui atau tidak.
Distribusi diffuse terjadi jika informasi prior tidak ada atau sangat sedikit bila dibandingkan dengan informasi dalam sampel (likelihood-nya). Jika distribusi diffuse digunakan dalam metode Bayes maka distribusi posterior akan mempunyai bentuk yang sama dengan fungsi likelihood, akibatnya estimasi maksimum likelihood akan sama dengan estimasi Bayes.
Dasar inferensi dan keputusan di dalam statistika klasik hanyalah informasi sampel. Jadi, dalam keaadaan distribusi diffuse, metode Bayes dan metode klasik pada hakikatnya mempunyai informasi yang sama. Walaupun demikian, masih terdapat perbedaan interpretasi diantara dua hasil yang “sama” pada kedua metode tersebut. Parameter yang akan diestimasi adalah rata-rata dan variansi khusus pada distribusi normal. Pada studi ini dikhususkan pada distribusi normal karena distribusi lain dapat diturunkan atau diperluas dari distribusi normal, kaitannya dengan teorema limit sentral, penyederhanaan masalah, untuk memenuhi syarat dalam estimasi maksimum likelihood dan Bayes serta untuk mempermudah penurunan formula-formula matematiknya. Akan tetapi, pada situasi yang sebenarnya, kalau distribusi populasi tidak diketahui, maka bentuk distribusi haruslah diestimasi.
Berdasarkan uraian tersebut maka penulis tertarik untuk meneliti dan menuangkan permasalahan tersebut dalam sebuah skripsi yang berjudul: “Perbandingan Metode Bayes dengan Metode Maksimum Likelihood dalam Mengestimasi Parameter Distribusi Normal”.