İstatistik ve Olasılık · 7. Ünite: Parametre Tahmini
Nokta Tahmini (Point Estimation)
Bir seçim anketinde "adayın oy oranı %41" ya da bir üretim hattında "ortalama ömür 1 204 saat" denildiğinde, popülasyonun tamamı değil, yalnızca bir örnek gözlenmiştir; söylenen sayı bilinmeyen bir parametrenin tahminidir. Aynı parametre için pek çok formül önerilebilir; hangisinin "iyi" olduğuna sapma (bias), varyans, ortalama hata karesi ve tutarlılık gibi ölçütlerle karar verilir. Konunun sonunda yansız ve etkin tahmin edicileri ayırt edecek, $s^2$'nin neden $n-1$ ile bölündüğünü ispatlayacak, MSE'yi hesaplayacak ve en çok olabilirlik yöntemiyle tahmin edici türetebileceksin.
Öğrenme hedefleri
- Tahmin edici (estimator) ile tahmin değeri (estimate) arasındaki farkı açıklar; $\bar X$, $S^2$ ve $\hat p$ için standart hatayı hesaplar.
- Bir tahmin edicinin yansızlığını $E(\hat\theta) = \theta$ koşuluyla sınar; $E(S^2) = \sigma^2$ ispatını yapar ve $n$ ile bölünen varyansın sapmasını $-\sigma^2/n$ olarak bulur.
- İki yansız tahmin edicinin varyanslarını karşılaştırarak göreli etkinliği (relative efficiency) hesaplar; normal popülasyonda $\bar X$'in medyandan $\pi/2$ kat daha etkin olduğunu gösterir.
- $\text{MSE}(\hat\theta) = \text{Var}(\hat\theta) + [\text{bias}(\hat\theta)]^2$ ayrışımını kullanarak yanlı ama düşük varyanslı bir tahmin edicinin yansız olana tercih edilebileceği durumları belirler.
- Tutarlılığı (consistency) tanımlar; yansız ama tutarlı olmayan ve yanlı ama tutarlı tahmin edici örnekleri verir.
- Bernoulli, Poisson, üstel ve normal modelleri için en çok olabilirlik tahmin edicisini (MLE) türetir ve $U(0,\theta)$ örneğinde sınır durumunu yorumlar.
Konu anlatımı
Motivasyon: Örnekten Parametreye
Yansızlık ve Standart Hata
Etkinlik, MSE ve Tutarlılık
En Çok Olabilirlik Yöntemi (MLE)
Çözümlü Örnekler
Tablo Okuma: Tahmin Edicileri Karşılaştırma
Sık Yapılan Hatalar ve Kavram Yanılgıları
Anahtar terimler
- Tahmin edici (estimator)
- Örnekten hesaplanan, parametre içermeyen ve parametreyi tahmin etmekte kullanılan rastgele değişken $\hat\Theta = h(X_1,\dots,X_n)$.
- Tahmin değeri (estimate)
- Gözlenen örnek için tahmin edicinin aldığı tek bir sayısal değer, örneğin $\bar x = 6$.
- Yansızlık (unbiasedness)
- $E(\hat\Theta) = \theta$ koşulu; sapma $E(\hat\Theta) - \theta$ sıfırdır.
- Standart hata (standard error)
- Tahmin edicinin standart sapması; $\bar X$ için $\sigma/\sqrt n$, $\hat p$ için $\sqrt{p(1-p)/n}$.
- Etkinlik (efficiency)
- Yansız tahmin edicilerden varyansı küçük olanın daha etkin olması; göreli etkinlik varyans oranıdır.
- Ortalama hata karesi (MSE)
- $E[(\hat\Theta-\theta)^2] = \text{Var}(\hat\Theta) + \text{bias}^2$; hem yayılımı hem sapmayı ölçer.
- Tutarlılık (consistency)
- $n \to \infty$ iken tahmin edicinin olasılıkta parametreye yakınsaması; sapma ve varyans sıfıra giderse sağlanır.
- En çok olabilirlik tahmin edicisi (MLE)
- Olabilirlik fonksiyonunu $L(\theta) = \prod f(x_i;\theta)$ en büyük yapan $\hat\theta$ değeri.
- Yanlılık–varyans ödünleşimi
- Sapmayı azaltmanın varyansı artırabildiği, MSE'yi küçük yapan dengenin aranması gerektiği ilkesi.
Örnek soru
$\hat\Theta$, $\theta$ parametresi için bir tahmin edici olsun. "$\hat\Theta$ yansızdır (unbiased)" ifadesi aşağıdakilerden hangisini anlatır?
- Her örnekte $\hat\Theta = \theta$ olur.
- $\hat\Theta$'nın varyansı sıfırdır.
- $n \to \infty$ iken $\hat\Theta$ olasılıkta $\theta$'ya yakınsar.
- Ortalama hata karesi $E[(\hat\Theta-\theta)^2]$ sıfırdır.
- $\hat\Theta$'nın örnekleme dağılımının beklenen değeri $\theta$'dır: $E(\hat\Theta) = \theta$.
Doğru cevap: E
Çözüm
1. Yansızlık tanımı, tahmin edicinin örnekleme dağılımının merkezi ile ilgilidir: $\text{bias} = E(\hat\Theta) - \theta = 0$.
2. Bu, aynı yöntemi sonsuz sayıda yeni örneğe uyguladığımızda tahminlerin ortalamasının $\theta$ olması demektir; tek bir örnekte $\hat\theta = \theta$ olması gerekmez (A yanlış).
3. Varyansın sıfır olması (B) ya da MSE'nin sıfır olması (D) tahmin edicinin sabit ve her zaman doğru olduğu anlamına gelir; bu yansızlıktan çok daha güçlü bir koşuldur.
4. $n$ büyürken yakınsama (C) tutarlılıktır, yansızlıkla ayrı bir kavramdır.
Cevap: E. En güçlü çeldirici C'dir; tutarlılık ve yansızlık sık karıştırılır.