Statistika Matematika II
Metode maksimum likelihood merupakan salah satu cara untuk menaksir parameter populasi yang tidak diketahui. Dalam prosesnya, metode ini berupaya menemukan nilai estimator bagi parameter yang dapat memaksimalkan fungsi likelihood.
Metode estimasi kemungkinan maksimum (maximum likelihood estimation, MLE) merupakan salah satu cara untuk menaksir atau mengestimasi parameter populasi yang tidak diketahui. Dalam prosesnya, metode ini berupaya menemukan nilai estimator bagi parameter yang dapat memaksimalkan fungsi likelihood.
Adapun definisi fungsi likelihood diberikan sebagai berikut.
Fungsi Likelihood
Misalkan \(x_1, …, x_n\) adalah sampel acak dengan fungsi kepadatan gabungannya (joint pdf) yaitu \(f(x_1, …, x_n;θ)\). Fungsi kepadatan gabungan ini disebut sebagai fungsi likelihood dan dinotasikan dengan \(L(θ,x)\). Jadi, jika \(x_1, …,x_n\) menyatakan sampel acak (random sample) dari \(f(x;θ)\) maka
Secara aljabar, fungsi likelihood \(L(θ;x)\) sama dengan distribusi \(f(x;θ)\), tetapi artinya sedikit berbeda karena \(f(x;θ)\) merupakan fungsi dari \(x\), sedangkan fungsi likelihood \(L(θ;x)\) merupakan fungsi dari \(θ\). Akibatnya, grafik suatu fungsi likelihood biasanya tampak sangat berbeda dari grafik distribusi peluang.
Sebagai contoh, anggaplah peubah acak \(X\) berdistribusi Bernoulli dengan parameter yang tidak diketahui yaitu \(p\). Fungsi kepadatan peluang dari distribusi ini yaitu:
\[ f(x;p)=p^x (1-p)^{1-x}; \quad x=0,1 \]
Kita bisa membuat grafik distribusi ini untuk setiap nilai tetap dari \(p\). Misalnya, jika \(p=0.5\), kita peroleh:
Sekarang misalkan kita mengamati nilai dari \(X\), katakanlah \(X = 1\). Dengan memasukkan nilai \(X = 1\) ke \(f(x;p)=p^x (1-p)^{1-x}\) memberikan fungsi likelihood \(L(p;x)=p\), yang mana grafiknya tampak pada Gambar di bawah.
Maximum Likelihood Estimator
Anggap \(L(θ)=f(x_1, …, x_n;θ)\), di mana \(θ∈Ω\) (Ω : parameter space), adalah joint pdf dari \(X_1, …, X_n\). Untuk sekumpulan pengamatan, \(x_1, …, x_n\), sebuah nilai \(\hat{θ}\) dalam \(Ω\) yang memaksimumkan \(L(θ)\) disebut sebagai estimator maksimum likelihood (maximum likelihood estimator, MLE) dari \(θ\), di mana \(\hat{θ}\) adalah sebuah nilai dari \(θ\) yang memenuhi
Berikut ini adalah tahapan untuk menerapkan metode maximum likelihood:
Berikut diberikan beberapa contoh terkait metode kemungkinan maksimum untuk menaksir atau mengestimasi parameter populasi yang tidak diketahui.
Contoh 1:
Anggap \(X_i \sim BIN (1,p)\). Tentukan estimator maksimum likelihoodnya (MLE).
Pembahasan:
Karena peubah acak \(X_i\) berdistribusi binomial dengan n = 1 atau disebut juga berdistribusi Bernoulli, maka fungsi kepadatan peluangnya yaitu
Untuk mencari estimator maksimum likelihood, kita ikuti beberapa langkah yang telah dijelaskan di atas, yakni
Langkah 1: Tentukan fungsi likelihood
Langkah 2: Tentukan \( \ln L(p) \)
Langkah 3: Maksimumkan fungsi \( \ln L(p) \)
Untuk memaksimumkan fungsi \( \ln L(p) \), kita mencari turunan pertamanya kemudian menyamakannya dengan nol. Setelah itu, kita selesaikan persamaan untuk mendapatkan estimator yang diinginkan.
Langkah 4: Tentukan \(\hat{p}\)
Jadi, estimator maksimum likelihood nya yaitu \(\hat{p}_{MLE} = \overline{x}\).
Contoh 2:
Anggap \(X_1, …, X_n\) adalah sampel acak dari distribusi eksponensial.
Tentukan \(\hat{θ}_{MLE}\).
Pembahasan:
Langkah 1: Tentukan fungsi likelihood
Langkah 2: Tentukan \( \ln L(θ) \)
Langkah 3: Maksimumkan fungsi \( \ln L(θ) \)
Untuk memaksimumkan fungsi \( \ln L(θ) \), kita mencari turunan pertamanya kemudian menyamakannya dengan nol. Setelah itu, kita selesaikan persamaan untuk mendapatkan estimator yang diinginkan.
Langkah 4: Tentukan \(\hat{θ}\)
Jadi, estimator maksimum likelihood nya yaitu \(\hat{\theta}_{MLE} = \overline{x}\).
Contoh 3:
Anggap \(X_1, …, X_n\) adalah random sampel dari distribusi normal dengan parameter \((θ_1, θ_2)\), yakni \( X_i \sim N(θ_1, θ_2) \). Tentukan \(\hat{θ}_1\) dan \(\hat{θ}_2\) dengan menggunakan metode maksimum likehood.
Pembahasan:
Fungsi kepadatan peluang dari distribusi normal dengan parameter \((θ_1, θ_2)\), yaitu
Langkah 1: Tentukan fungsi likelihood
Langkah 2: Tentukan \( \ln L(\theta_1,\theta_2) \)
Langkah 3: Maksimumkan fungsi \( \ln L(\theta_1,\theta_2) \)
Untuk memaksimumkan fungsi \( \ln L(\theta_1,\theta_2) \), kita mencari turunan pertama masing-masing terhadap \(\theta_1\) dan \(\theta_2\), kemudian menyamakannya dengan nol. Setelah itu, kita selesaikan persamaan untuk mendapatkan estimator yang diinginkan.
Dari hasil penghitungan diperoleh turunan pertama terhadap \(\theta_1\) dan terhadap \(\theta_2\), yaitu:
Dengan membuat kedua turunan ini sama dengan nol dan menyelesaikan ini secara simultan; akan diperoleh MLE bagi \(θ_1\) dan \(θ_2\) sebagai berikut:
Jadi, penduga maksimum likelihood bagi parameter \(\hat{θ}_1\) adalah \(\overline{x}\).
Jadi, penduga maksimum likelihood bagi parameter \(\hat{θ}_2\) adalah \( \sqrt{\frac{\sum_{i=1}^n (x_i-\overline{x})^2}{n}} \).
Cukup sekian ulasan singkat mengenai metode maksimum likelihood untuk mencari estimator bagi suatu parameter populasi dalam artikel ini. Terima kasih telah membaca sampai selesai. Jika Anda merasa artikel ini bermanfaat, boleh dibantu share ke teman-temannya, supaya mereka juga bisa belajar dari artikel ini.
Never leave ’till tomorrow which you can do today.
Benjamin Franklin