Bukti Teorema Limit Pusat (Central Limit Theorem)

Halo semua! Karena sekarang hari Jumat, maka besok tidak kuliah. Karena besok tidak kuliah, maka saya gabut malam ini. Karena saya gabut malam ini, maka saya menulis blog ini agar terlihat dan merasa saya sedang produktif.

Oke enough bad jokes. Pada tulisan kali ini, saya akan membahas bukti teorema limit pusat yang merupakan teorema yang sangat fundamental di statistik. Berikut adalah pernyataan Teorema Limit Pusat :

Teorema. Jika X_1,X_2,\cdots,X_n adalah sampel random yang mempunyai distribusi sama dengan mean \mu dan variansi \sigma^2, maka variabel random Z_n = \dfrac{\sum_{i=1}^n X_i - n\mu}{\sqrt{n} \sigma} akan konvergen secara distribusi ke distribusi normal standar.

Akan kita sebutkan beberapa lemma yang akan kita gunakan terlebih dahulu.

Lemma 1 (lemma dari diktat kalkulus I UGM). Apabila f(x) dan g(x) adalah fungsi kontinu dan $c$ adalah bilangan real sehingga \lim_{x \to c} f(x) = 0 dan \lim_{x \to c} g(x) = \infty, maka \lim_{x \to c} (1+f(x))^{g(x)} = e^{\lim_{x \to c} f(x) g(x)}. Teorema juga berlaku untuk limit menuju tak hingga.

Lemma 2. Apabila X_1,X_2 adalah variabel random independen dengan MGF M_{X_1}(t),M_{X_2}(t), maka M_{X_1}(t) \cdot M_{X_2}(t) = M_{X_1+X_2}(t) dan juga M_{aX}(t) = M_x(at). (Bukti lemma ini tidak sulit jadi akan saya buktikan)

Bukti lemma 2. Karena X_1,X_2 independen maka

M_{X_1+X_2}(t) = E[e^{(X_1+X_2)t}] = E[e^{tX_1+tX_2}] = E[e^{tX_1}]E[e^{tX_2}] = M_{X_1}(t)M_{X_2}(t).

M_{aX}(t) = E[e^{t(aX)}] = E[e^{at(X)}] = M_{X}(at).

Lemma pun terbukti.

Sebelum membuktikan teorema di atas, kita memerlukan sebuah lemma yang cukup intuitif namun buktinya sulit (sehingga tidak dibahas disini hehe) berikut ini :

Lemma 3. Apabila Y_1,Y_2,\cdots,Y_n adalah barisan varibel random dengan Moment Generating Function M_1(t), M_2(t), \cdots, M_n(t) berturut-turut. Apabila \lim_{n \to \infty} M_n(t) = M(t) dan M(t) merupakan MGF dari variabel random Q maka Y_n akan konvergen secara distribusi ke Q.

Dari lemma 3, diperoleh ide pembuktian teorema limit pusat ini adalah dengan menyatakan Moment Generating Function dari Z_n dalam \mu, \sigma dan n kemudian menentukan ke mana kah Z_n konvergen seiring n \to \infty. Oke kita siap membuktikan teorema limit pusat!

Misalkan X_1,X_2,\cdots,X_n mempunyai distribusi yang sama dengan variabel random X. Ingat kembali bahwa turunan ke k dari MGF adalah moment dari variabel random tersebut disekitar mean sehingga M_{X - \mu}(0) = E[(X-\mu)^0] = E[1] = 1 dan M'_{X - \mu}(0) = E[(X-\mu)^1] = E[X-\mu] = E[X] - \mu = \mu - \mu = 0 dan M''_{X-\mu}(0) = E[(X-\mu)^2] = \sigma^2. Berdasarkan teorema Taylor, untuk setiap t > 0 akan terdapat h \in (0,t) sehingga

M_{X-\mu}(t) = M_{X-\mu}(0) + M'_{X-\mu}(0)t + \frac{1}{2}M''_{X-\mu}(h)t^2 = 1 + \frac{1}{2}M''_{X-\mu}(h)t^2

Selanjutnya, berdasarkan lemma 2, kita punya

M_{Z_n}(t) = M_{\dfrac{\sum_{i=1}^n X_i - n\mu}{\sqrt{n} \sigma}}(t) = M_{\sum_{i=1}^n (X_i - \mu)}(\frac{t}{\sqrt{n}\sigma})

Indeks menjadi \sum_{i = 1}^n (X_i - \mu) karena \sum_{i = 1}^n (X_i - \mu) = \sum_{i = 1} X_i - n\mu.

Berdasarkan lemma 2 lagi, diperoleh

M_{\sum_{i=1}^n (X_i - \mu)}(\frac{t}{\sqrt{n} \sigma}) = \prod_{i=1}^n M_{X_i-\mu} (\frac{t}{\sqrt{n} \sigma}).

Karena X_i berdistribusi sama semua, maka X_i-\mu juga berdistribusi sama untuk semua i = 1,2,\cdots,n sehingga

\prod_{i=1}^n M_{X_i-\mu}(\frac{t}{\sqrt{n} \sigma}) = (M_{X-\mu}(\frac{t}{\sqrt{n}\sigma}))^n.

Telah kita peroleh bahwa

M_{X-\mu}(t) = 1 + \frac{1}{2}M''_{X-\mu}(h)t^2 untuk suatu h \in (0,t) sehingga

M_{X-\mu}(\frac{t}{\sqrt{n}\sigma}) = 1 + \frac{1}{2n \sigma^2}M''_{X-\mu}(h)t^2

untuk suatu h \in (0,\frac{t}{\sqrt{n} \sigma}). Akibatnya,

M_{Z_n}(t) = (M_{X-\mu}(\frac{t}{\sqrt{n}\sigma}))^n = (1 + \frac{1}{2n \sigma^2}M''_{X-\mu}(h)t^2)^n.

Eureka!! Kita sudah berhasil menyatakan MGF Z_n dalam n,\mu,\sigma. Selanjutnya, adalah menentukan konvergen ke fungsi apakah M_{Z_n}(t) lalu menggunakan lemma 3. Ketika n \to \infty maka akan terjadi beberapa hal berikut :

  • \frac{t}{\sqrt{n}\sigma} \to 0 sebab t dan n terbatas. Akibatnya, h \to 0 sehingga M_{X-\mu}''(h) \to M_{X-\mu}''(0) = \sigma^2. Akibatnya, M_{X-\mu}''(h)  \to \sigma^2.
  • Akibatnya, dengan lemma dari diktat kalkulus UGM diperoleh \lim_{n \to \infty} M_{Z_n}(t) = (1 + \frac{1}{2n \sigma^2}M''_{X-\mu}(h)t^2)^n = e^{\lim_{n \to \infty} n \cdot \frac{1}{2n \sigma^2}M''_{X-\mu}(h)t^2} = e^{\frac{1}{2}t^2}.

Sehingga, M_{Z_n} konvergen ke MGF distribusi normal standar yang mengakibatkan Z_n konvergen ke distribusi normal standar berdasarkan lemma 3. Terbukti hooray!

 

*Menyunting tulisan dari buku Introduction to Probability and Mathematical Statistics oleh Lee J. Bain dan Max Engelhardt.

One thought on “Bukti Teorema Limit Pusat (Central Limit Theorem)

Leave a comment