Início » Inferência » 2 - Distribuições Amostrais

2.1 - Lei Fraca dos Grandes Números e Teorema Central do Limite

Seja $ f(\cdot,\theta) $ a densidade de alguma variável aleatória X e vamos denotar E(X) por μ. Suponha que queremos estimar μ. Porém em qualquer problema real, podemos somente observar um número finito de valores da variável aleatória X. Será então que, usando somente um número finito de valores de X (uma amostra aleatória de tamanho n), podemos obter inferências confiávies sobre E(X)? A resposta é sim e isto é o que veremos provando o que é chamada de lei fraca dos grandes números.

A lei fraca dos grandes números estabelece que, para quaisquer dois números suficientemente pequenos ε e δ, com ε > 0 e 0 < δ < 1, existe um número inteiro n tal que se uma amostra aleatória de tamanho n ou maior que n é obtida de f e a média amostral, denotada por $ \overline{X} $ é calculada, então temos uma probabilidade maior que 1 - δ (ou seja, suficientemente próxima de 1) de que $ \overline{X} $ seja próxima de μ por um número menor que ε (ou seja, a média amostral $ \overline{X} $ é arbitrariamente próxima de μ).

 

Lei Fraca dos Grandes Números

Seja $ f(\cdot) $ uma função densidade com média  μ e variância σ2 e seja $ \overline{X} $ a média amostral de uma variável aleatória de tamanho n com função densidade f. Sejam ε e δ quaisquer dois números especificados que satisfazem  ε > 0 e 0 <  δ < 1. Se n é qualquer inteiro maior que σ2 /ε2δ, então

\[P[-\epsilon \ \textless \ \overline{X}-\mu \ \textless \epsilon]\geq 1-\delta.\]

Demonstração: Sabemos que

\[P(g(X)\geq k)\leq \frac{E(g(x))}{k}\]

para todo k > 0, para toda variável aleatória X e toda função não negativa g. De maneira equivalente, temos que

\[P(g(x) \ \textless \ k)\geq 1-\frac{E(g(X))}{k}.\]

Vamos tomar $ g(X)=(\overline{X}-\mu)^2 $ e k = ε2. Então

\[P[-\epsilon \ \textless \ \overline{X}-\mu \ \textless \epsilon]=P[|\overline{X}-\mu| \ \textless \ \epsilon]=P[|\overline{X}-\mu|^2 \ \textless \ \epsilon^2].\]

Mas

\[P[|\overline{X}-\mu|^2 \ \textless \ \epsilon^2]\geq 1-\frac{E(\overline{X}-\mu)^2}{\epsilon^2}=1-\frac{(1/n)\sigma^2}{\epsilon^2}\geq 1-\delta.\]

 

Teorema Central do Limite

Assumir que os dados tem uma distribuição normal é altamente conveniente tanto do ponto de vista teórico como do ponto de vista computacional. Mas isto deixa um problema de fundamental importância: sob quais circunstâncias é razoável assumir que a distribuição normal pode ser usada? Gauss trabalhou neste problema por muito tempo, mas é um resultado de Laplace que é utilizado hoje. Anunciado em 1810, Laplace chamou este resultado de Teorema Central do Limite, que diz que sob a hipótese de amostragem aleatória, quando o tamanho da amostra aumenta, a distribuição amostral da média amostral se aproxima de uma distribuição normal com média μ e variância σ2/n, ou seja, se o tamanho amostral é suficientemente grande, podemos assumir que a média amostral tem uma distribuição normal.

Teorema Central do Limite: Seja f uma densidade com média μ e variância σ2. Seja $ \overline{X} $ a média amostral de uma amostra aleatória de tamanho n de f. Então, a variável aleatória Zn definida por

\[Z_n=\frac{\overline{X}-E(\overline{X})}{\sqrt{Var(\overline{X})}}=\frac{\overline{X}-\mu}{\sigma/\sqrt{n}}.\]

ou seja, a distribuição de Zn se aproxima da distribuição normal padrão quando n tende ao infinito. Em outras palavras, Zn tem distribuição aproximadamente normal com média 0 e variância 1 quando n tende ao infinito.

Desse modo, o teorema central do limite nos diz que a distribuição limite de Zn é uma distribuição normal padrão ou que $ \overline{X} $ é assintóticamente distribuída como uma distribuição normal com média μ e variância σ2/n. O mais impressionante do teorema central do limite é o fato de que nada é dito a respeito da função densidade. Ou seja, qualquer que seja a função de distribuição, desde que ela tenha variância finita, a média amostral terá uma distribuição aproximadamente normal para amostras suficientemente grandes.