Processos Estocásticos

Luiz Affonso Guedes

Sumário• Probabilidade• Variáveis Aleatórias• Funções de Uma Variável Aleatória• Funções de Várias Variáveis Aleatórias• Momentos e Estatística Condicional• Teorema do Limite Central• Processos Estocásticos• Análise Espectral• Filtragem e Predição Estocástica• Processos Markovianos

Variáveis Aleatórias

• Como devemos descrever um experimento aleatório?– Uma boa forma seria associar cada experimento

com valores numéricos.

A

Reais, Inteiros,...

Variáveis Aleatórias

• Definição:– Dado um espaço de probabilidade descrito por

(S,P), uma variável aleatória (v.a.) sobre esse espaço é uma função sobre S.

– X(A) = f(A)

– Variável aleatória é uma função dos eventos, não uma variável.

Variáveis Aleatórias

• Exemplos:– Seja o Experimento probabilístico de se lançar

dois dados. Então seu espaço amostral é:• S = {(1,1), (1,2), (1,3), ..., (2,1), (2,2), ..., (6,6)}• X(e) – V.A. correspondendo a soma dos valores de

cada face.• Y(e) – V.A. par ou ímpar, caso a soma dê par ou

ímpar, respectivamente.

Variáveis Aleatórias

1/36par12(6,6)...

1/36ímpar3(2,1)...

1/36ímpar3(1,2)1/36par2(1,1)P(e)Y(e)X(e)e

Espaço de X(e) é {2,3,4,5,6,7,8,9,10,11 ,12)Espaço de Y(e) é {par, ímpar)

1/36122/36113/36104/3695/3686/3675/3664/3653/3642/3631/362P(X)X(e)

18/36ímpar18/36parP(Y)Y(e)

P(X=7) = 1/6

Variáveis Aleatórias

S

e

X(e)X(e)

P(X)

Variáveis Aleatórias

• V.A. Discretas – quando os valores da variável formam um conjunto enumerável.

• V.A. Contínuas – quando os possíveis resultados do experimento são representados por infinitos valores em um intervalo contínuo.– Exemplos: temperatura, tempo, valor de tensão.

Funções de Probabilidade de V.A. • Distribuição: é a função acumulativa de

uma v.a.:– Fx(X) = P{X ≤ x}, definida para cada x no

intervalo de –infinito a +infinito.• Densidade: é a derivada da função

distribuição.– f(X) = dF(X)/dX

• Exemplo: Jogar uma moeda, X(cara) = 1, X(coroa) = 2.

• Gráfico de Fx(X) e de sua derivada f(X).

Funções de Probabilidade de V.A. • Exemplo: Jogar um dado,

– X(i=número da face) = 2.i• Gráfico de Fx(X).• P(X<5), P(2≤X<5).• Gráfico de f(X).

• Exemplo: Uma chamada telefônica ocorre randomicamente num intervalo de tempo entre (0,T). No experimento, os resultados são os instantes de tempo t. A V.A. X(t) = t, para 0≤t ≤T.– Gráfico de F(X)– Gráfico de f(X).– Se T = 60, obter a probabilidade de haver uma chamada até t = 30.

Funções Distribuição e Densidade

• Propriedades:– F(X) é uma função não decrescente;– F(-00) = 0 ; F(+00) = 1;– P(a<x ≤ b) = F(b) – F(a);– f(x) ≥ 0 ; para todo x.

• Qual é a interpretação de f(x) para o caso contínuo?

Esperança Matemática de V.A.

• Colocação de um problema:– Seja um jogo de dado, sendo que é expresso

pela seguinte V.A.:- Quais são suas chances no jogo?

-306

-105

04

+53

+102

+151

GanhoFace

Esperança Matemática de V.A.

• Esperança para V.A. Discretas:– E[X(e))] = ∑e∈SX(e)P(e)ou em termos de um conjunto enumerável,– E[X] = ∑i=1... ∞ {xiP[X=xi]}

– E[X] = x1P(x1) + x2P(x2) + ... + xnP(xn) Desde que ∑i=1... ∞P(xi) = 1, E[X] é

basicamente uma média ponderada

Esperança Matemática de V.A.

• Propriedade da linearidade:– E[X+Y] = E[X] + E[Y]– E[cX] = c.E[X]

E[X1+ X2+ ... +Xn] = E[X1] + E[X2] + ... + E[Xn]

Esperança Matemática de V.A.

• Exemplos:– Uma loteria vende 100 bilhetes a R$1,50, cada.

Sendo que o prêmio é de R$100,00. Qual é a sua esperança de ganho se você jogou 1, 2,10 ou 100 bilhetes?

– Se os números das faces de um dados são a própria v.a., qual é a esperança ao se lançar um dado?

Esperança Matemática de V.A.

•Esperança para V.A. Contínuas:•E[X] = ∫- ∞,∞ x f(x) dx•f(X=x) dX ≈ P(X= x), interpretação

•Exemplo: •f(x) = 2x, para 0≤x ≤0,5;

= -(2/3)x+(4/3), para 0,5≤x ≤2,0 e= 0, para os outros valores.

•Obtenha o gráfico e E[X].

Esperança Matemática de V.A.•Exemplo: Uma loteria dá 200 prêmios de R$5,00, 20 de R$25,00 e 5 de R$100,00. Admitindo-se que sejam emitidos e vendidos 10.000 bilhetes, qual seria o preço justo par um bilhete?•Exemplo: Uma moeda, viciada de modo que P(cara)=3/4 e P(coroa)=1/4, é lançada 3 vezes. Seja X a v.a. que representa o número de caras ocorrido. Ache a distribuição e a média de X.

Funções de uma Variável Aleatória

• Seja X uma v.a. discreta definida em um espaço amostral S, g(.) uma função real e Y= g(X). Então:– P[Y=y] = ∑x:g(x)=y P[X=x]– E[g(X)] = ∑xg(x)P[X=x]. E o caso contínuo?

X

Yy

x1 x2 x3

Funções de uma Variável Aleatória

• Variância: – Denotada por σ2(X), a variância de uma v.a. X é

definida matematicamente por:• σ2(X) = E[(X- E[X])2], E[X] = m, valor médio de X• Interpretação para variância.• Mostrar que:

– σ2(X) = E[X2] – (E[X])2

• O que significa: E[X2]?

Funções de uma Variável Aleatória

• Variância: – σ2(X) = ∑i=1... ∞ {(xi-E[X])2 P[X=xi]}– σ2(X) = ∫- ∞,∞ (xi-E[X])2 f(x) dx– Como calcular variância?– Se Y= a X, qual é o valor de σ2(Y)?– Desvio Padrão : raiz quadrada da variância

• σ(X)

Funções de uma Variável Aleatória

• Momentos de V.A. – A esperança de g(X) = Xk é denominada momento

de ordem k da v.a. X, para k= 1, 2, 3, ...– E[X] primeiro momento de X.– σ2(X) segundo momento menos o quadrado do

primeiro momento.– E(Xk) = ∑i=1... ∞ {(xi)k P[X=xi]}– E(Xk) = ∫- ∞,∞ (xi)k f(x) dx

Funções de uma Variável Aleatória

• Funções Geradoras de Momento de V.A. – A função geradora de momentos da v.a. X, é

definida matematicamente por:• φx(t) = E(etX), para todo t em que a esperança seja finita.

– φx(t) = ∑i=1... ∞ {(et xi) P[X=xi]}– φx(t) = ∫- ∞,∞ (etx) f(x) dx

Funções de uma Variável Aleatória

• Funções Geradoras de Momento de V.A. – Exemplo: Seja X uma V.A. discreta que assume os valores

1,2,...,2n, com probabilidades:• P[X=2n] = 1/2n

• E[X] = ?

– Exemplo: Seja X uma V.A. que assume os valores zero e um, com probabilidades iguais a (1-p) e p, respectivamente.

• φx(t) = E[etX] = 1 - p + p et, -∝ < t < ∝

Funções de uma Variável Aleatória

• Funções Geradoras de Momento de V.A. – Exemplo: Seja uma V.A. com densidade de

probabilidade fx(x) = λ e-λx, para x≥0, onde λ é uma constante positiva. Definir a função geradora de momentos de X.

• φx(t) = E[etX] = ∫- ∞,∞ etX λ e-λX dx = λ /(λ-t)» A integral só é finita para os valores de t tais que 0<t< λ

Funções de uma Variável Aleatória

• Funções Geradoras de Momento de V.A. – Por que φx(t) é denominada de função geradora de

momentos?• φx(t) = ∫- ∞,∞ (etx) f(x) dx , função geradora de momentos

• d (φx(t))/dt = ∫- ∞,∞ (xetx) f(x) dx ,1a derivada em t

• Esta derivada no ponto ZERO:• d (φx(0))/dt = ∫- ∞,∞ (x) f(x) dx = E[X]

Funções de uma Variável Aleatória

• Funções Geradoras de Momento de V.A. – Por que φx(t) é denominada de função geradora de

momentos?• φx(t) = ∫- ∞,∞ (etx) f(x) dx , função geradora de momentos

• d 2(φx(t))/dt2 = ∫- ∞,∞ (x2etx) f(x) dx ,2a derivada em t

• Esta segunda derivada no ponto ZERO:• d 2(φx(0))/dt2 = ∫- ∞,∞ (x2) f(x) dx = E[X2]

Funções de uma Variável Aleatória

• Funções Geradoras de Momento de V.A. – Generalização

• φx(t) = ∫- ∞,∞ (etx) f(x) dx , função geradora de momentos

• dn(φx(0))/dtn = ∫- ∞,∞ (xn) f(x) dx = E[Xn]– Então, tendo-se uma função geradora de

momentos de uma v.a., pode-se obter todos os momentos dessa v.a.

Funções de uma Variável Aleatória

• Mapeamento entre funções de v.a.S

e

X(e)

Y(e)

P(Y)

Y(e)=g(X)

X(e)

P(X)

??

Funções de uma Variável Aleatória

• Mapeamento entre funções de v.a.– Para Y = g(X) ser uma v.a., a função g(X) deve

ter as seguintes propriedades:• Seu domínio deve incluir a imagem da v.a. X.• Os eventos {g(X) = ±∝} devem ter probabilidade

zero.• Y = g(X) X = g-1(Y)

Funções de uma Variável Aleatória

X

Yy

x1 x2 x3

• Mapeamento entre funções de v.a.– Y = g(X) X = g-1(Y)– Caso de função não decrescente:

• P(x≤X ≤x+dx) = P(y ≤Y ≤y+dy)• P(X ≤x) = P(Y ≤y) g(x) ≤ y1 para x ≤x1• Fx(x) = Fy(y)• d(Fx(x))/dy= d(Fy(y))/dy• fy(y)= fx(x).dx/dy• fy(y)= fx(g –1 (x)) .dx/dy

Funções de uma Variável Aleatória• Mapeamento entre funções de v.a.

– Y = g(X) X = g-1(Y)– Caso de função não decrescente:

• fy(y)= fx(x).dx/dy= fx(g –1 (x)) .dx/dy

– Exemplo:• Y = aX + b ; a>0• fx(X) = uniforme entre 0 e 1.

X

Y

b

fx(x)

X

1

1 Yb

fy(y)

1/a

a+b

Funções de uma Variável Aleatória• Mapeamento entre funções de v.a.

– Y = g(X) X = g-1(Y)– Caso de função não crescente:

• fy(y)= - fx(x).dx/dy = fx(g –1 (x)) .|dx/dy|

– Exemplo:• Y = - aX + b ; a>0• fx(X) = uniforme entre 0 e 1.

Funções de uma Variável Aleatória• Mapeamento entre funções de v.a.

– Y = g(X) X = g-1(Y)– Caso geral de função:

• fy(y)= fx(x1).|dx1/dy| + fx(x2).|dx2/dy| + ...• Opera-se em cada trecho onde a função é não crescente ou não

decrescente.– Exemplo:

• Y = aX2; a>0• fx(X) = uniforme entre –1 e 1.• fx(X) = -X+1; 0<X<1

= +X+1; -1<X<0= 0 ; para os outros valores de X.