57
Motiva¸c˜ ao Algoritmos MCMC Prof. Caio Azevedo Prof. Caio Azevedo Algoritmos MCMC

Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

  • Upload
    others

  • View
    18

  • Download
    0

Embed Size (px)

Citation preview

Page 1: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Algoritmos MCMC

Prof. Caio Azevedo

Prof. Caio Azevedo

Algoritmos MCMC

Page 2: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Exemplo da normal bivariada

Seja Y = (Y1,Y2) ∼ Np(µ,Σ). Desejamos estimar as fdp’s

marginais de Y1,Y2, com µ e Σ, conhecidos.

Sabemos que Yi ∼ N(µi , σ2i ), i = 1, 2.

Suponha, no entanto, que saibamos apenas que:

Y1|y2,µ,Σ ∼ N1(µ1, σ21), em que µ1 = µ1 + σ12

(σ2

2

)−1(y2 − µ2) e

σ21 = σ2

1 − (σ12)2(σ2

2

)−1.

Y2|y1,µ,Σ ∼ N1(µ2, σ22), em que µ2 = µ2 + σ12

(σ2

1

)−1(y1 − µ1) e

σ22 = σ2

2 − (σ12)2(σ2

1

)−1.

As distribuicoes condicionais podem ser utilizadas para estimar as

distribuicoes marginais?

Prof. Caio Azevedo

Algoritmos MCMC

Page 3: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Simulacao iterativa

Simule y(1)1 ∼ N(0, 1), por exemplo. Com este valor, simule

y(1)2 |y

(1)1 ,µ,Σ.

Repita o passo acima R vezes, obtendo-se

(y(1)1 , y

(1)2 ), (y

(2)1 , y

(2)2 ), ..., (y

(R)1 , y

(R)2 )

Prof. Caio Azevedo

Algoritmos MCMC

Page 4: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Histograma das amostras MCMC

Componente 1

valores

de

nsi

da

de

−6 −4 −2 0 2 4

0.0

00

.10

0.2

0

Componente 2

valores

de

nsi

da

de

−4 −2 0 2 4 6 8

0.0

00

.10

0.2

0

0 2000 4000 6000 8000 10000

−6

−4

−2

02

4

Variavel 1

aux

c(v.

Y1

)

0 2000 4000 6000 8000 10000

−5

05

10

Variavel 2

aux

v.Y

2

Prof. Caio Azevedo

Algoritmos MCMC

Page 5: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

ACF das amostras MCMC

0 10 20 30 40

0.0

0.2

0.4

0.6

0.8

1.0

Lag

AC

F

Variavel 1

0 10 20 30 40

0.0

0.2

0.4

0.6

0.8

1.0

Lag

AC

F

Variavel 2

Prof. Caio Azevedo

Algoritmos MCMC

Page 6: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Trace plots das amostras MCMC

0 2000 4000 6000 8000 10000

−6

−4

−2

02

4

Variavel 1

aux

c(v.

Y1

)

0 2000 4000 6000 8000 10000

−5

05

10

Variavel 2

aux

c(v.

Y2

)

Prof. Caio Azevedo

Algoritmos MCMC

Page 7: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Cadeias de Markov

Estudo de sequencias (conjuntos) de variaveis aleatorias que

guardam alguma estrutura dependendencia entre si.

Exemplo: seja X1,X2, ... um sequencia de Bernoullis que representam

resultados de lancamentos de duas moedas (0, cara ; 1, coroa).

Caso Xi = 0, lanca-se uma moeda com probabilidade de cara igual a

0,55, caso contrario lanca-se uma moeda com probabilidade de cara

igual a 0,35.

Prof. Caio Azevedo

Algoritmos MCMC

Page 8: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Exemplo: lancamento de moedas

Matriz de transicao

P =

P(Xi = 0|xi−1 = 0) P(Xi = 1|xi−1 = 0)

P(Xi = 0|xi−1 = 1) P(Xi = 1|xi−1 = 1)

P =

0, 55 0, 45

0, 35 0, 65

Distribuicao estacionaria: x = Px.

Prof. Caio Azevedo

Algoritmos MCMC

Page 9: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Exemplo: lancamento de moedas

Resultado: Se a Cadeia de Markov (definida pela matriz de

transicao), for reversıvel, a distribuicao estacionaria existe e e unica.

Obtida atraves de observacaos da cadeia de Markov, x = Pn, para n

suficiente grande.

Neste caso x = [0, 45; 0, 55]

Prof. Caio Azevedo

Algoritmos MCMC

Page 10: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Exemplo: normal bivariado

No exemplo da normal bivariada, a matriz de transicao (que possui

um numero infinito nao enumeravel de elementos) e definida pelas

densidades de transicao (distribuicoes condidionais completas):

Y1|y2,µ,Σ;Y2|y1,µ,Σ

Neste caso, faz sentido calcular P(Y1 ∈ a|y2,µ,Σ) e

P(Y2 ∈ b|y1,µ,Σ), em que a, b sao intervalos da reta.

Resultado: se a Cadeia de Markov, com matriz de transicao definida

pelas condicionais completas for reversıvel, sua distribuicao

estacionaria sera unica e convergira para as distribuicoes marginais

de interesse.Prof. Caio Azevedo

Algoritmos MCMC

Page 11: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Algoritmos de Monte Carlo via Cadeias de Markov

O conjunto de algoritmos que permitem simular variaveis

(iterativamente) a partir das distribuicoes condicionais completas e

conhecido como algoritmos de Monte Carlo via Cadeias de Markov

(MCMC).

Monte Carlo (resolver integrais) Cadeias de Markov (gera cadeias de

Markov).

Aplicacoes: obter distribuicoes (marginais, condicionais, conjuntas)

de interesse. Em particular: Inferencia Bayesiana.

Prof. Caio Azevedo

Algoritmos MCMC

Page 12: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Aplicacoes em Inferencia Bayesiana

Distribuicao inversa gama X ∼ IG (r , γ):

p(x) =γr

Γ(r)e−x/γx−(r+1)11(0,∞)(x)

Distribuicao normal-inversa gama (X ,Y ) ∼ NIG (µ, ν, r , γ)

X |y ∼ N(µ, y/ν)

Y ∼ IG (r , γ)

Prof. Caio Azevedo

Algoritmos MCMC

Page 13: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Continuacao

Densidade conjunta

p(x , y) =

√ν√

2πy−1/2y−(r+1) exp

(−γy

)exp

{−1

2

ν(x − µ)2

σ2

}× 11(0,∞)(y)11(−∞,∞)(x)

Distribuicao marginal de X ,X ∼ t(2r)

(µ,√

γrν

),

p(x) =Γ( 2r+1

2 )Γ( 2r

2 )Γ( 12 )

(√2rδ)−1

[1 + (x−µ)2

2rδ2

]− 2r+12

11(−∞,∞)(x)

δ2 =√

γrν

Prof. Caio Azevedo

Algoritmos MCMC

Page 14: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Aplicacoes em Inferencia Bayesiana

Seja X1|θ, ...,Xn|θ,θ = (µ, σ2) uma amostra aleatoria de

X |θ ∼ N(µ, σ2).

Famılia conjugada (normal inversa gama)

µ|σ2 ∼ N(α, σ2/κ)

σ2 ∼ IG(γ, β)

Prof. Caio Azevedo

Algoritmos MCMC

Page 15: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Continuacao

Posteriori conjunta

µ|x, σ2 ∼ N(α∗, σ2/(ν∗))

σ2|x ∼ IG(r∗, γ∗)

em que ν∗ = ν + n, γ∗ = 12

[nνn+ν (x − α)2 + (n − 1)s2 + γ

],

r∗ = n2 + r .

Alem disso, µ|x ∼ t(2r∗)

(α∗,√

γ∗

r∗ν∗

).

Prof. Caio Azevedo

Algoritmos MCMC

Page 16: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Continuacao

Pode-se provar que (distribuicoes condicionais completas):

µ|x, σ2 ∼ N(α∗, σ2/(ν∗))

σ2|x, µ ∼ IG(r∗∗, γ∗∗)

em que

r∗∗ = n+12 + r ; γ∗∗ = n

2 (x − µ)2 + ν2 (µ− α)2 + 1

2 (n − 1)s2 + γ

x = 1n

∑ni=1 xi ; s

2 = 1n−2

∑i=1 (xi − x)2.

Prof. Caio Azevedo

Algoritmos MCMC

Page 17: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Histograma das amostras MCMC

Media

valores

de

nsi

da

de

0.5 1.0 1.5 2.0

0.0

0.5

1.0

1.5

Variancia

valores

de

nsi

da

de

3 4 5 6 7 8

0.0

0.2

0.4

0 2000 4000 6000 8000 10000

0.5

1.0

1.5

2.0

Variavel 1

aux

c(v.

mu

)

0 2000 4000 6000 8000 10000

34

56

78

9

Variavel 2

aux

v.si

gm

a2

Prof. Caio Azevedo

Algoritmos MCMC

Page 18: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

ACF das amostras MCMC

0 10 20 30 40

0.0

0.2

0.4

0.6

0.8

1.0

Lag

AC

F

Variavel 1

0 10 20 30 40

0.0

0.2

0.4

0.6

0.8

1.0

Lag

AC

F

Variavel 2

Prof. Caio Azevedo

Algoritmos MCMC

Page 19: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Trace plots das amostras MCMC

0 2000 4000 6000 8000 10000

0.5

1.0

1.5

2.0

Variavel 1

aux

c(v.

mu

)

0 2000 4000 6000 8000 10000

34

56

78

Variavel 2

aux

v.si

gm

a2

Prof. Caio Azevedo

Algoritmos MCMC

Page 20: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Definicao geral dos algoritmos MCMC

Seja p(θ|x) ∝ p(x|θ)p(θ) a distribuicao a posteriori de interesse

(com forma analıtica intratavel).

Considere a seguinte particao para o (vetor) p-parametrico

θ = (θ1,θ2, ...,θk), k ≤ p.

Sejam θj |θ(−j), x, i = 1, 2, ..., k em que θ(−j) denota o vetor

parametrico θ menos a componente θj , as distribuicoes

condicionais completas.

Prof. Caio Azevedo

Algoritmos MCMC

Page 21: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Definicao geral dos algoritmos MCMC

Inicie a cadeia com um conjunto de valores iniciais apropriados.

Para r = 1, 2, ....,R, j = 1, 2, ..., k simule θ(r)j de θj |θ(r−1)

(−j) , x.

A partir de algum B > 1 (burn-in), retenha os valores a cada t

(espacamento) iteracoes.

Os valores retidos, se a cade tiver alcancado a convergencia,

correspondera a uma amostra aleatoria de das posteriories

(distribuicoes) de interesse.

Prof. Caio Azevedo

Algoritmos MCMC

Page 22: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Questoes de interesse

1 Como simular de θj caso a distribuicao condicional completa nao

seja conhecida ou possıvel de simualr diretamente?

2 Como verificar a convergencia da cadeia gerada?

3 Como determinar B, t,R?

Prof. Caio Azevedo

Algoritmos MCMC

Page 23: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Modelo gama

Exemplo: posteriori associada ao modelo gama(r , λ).

Suponha uma amostra aleatoria de tamanho n de X ∼ gama(r , λ),

com r conhecido.

p(x |r) =1

λrΓ(r)e−x/λx r−111(0,∞)(x)

Priori: p(r) alguma fdp com suporte em R+.

Verossimilhanca:

p(x|r) =1

λnrΓ(r)ne−nx/λ

n∏i=1

x r−1i

Prof. Caio Azevedo

Algoritmos MCMC

Page 24: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Priori e posteriori

Priori

p(r , λ) = p(r)p(λ) =1

γαΓ(α)e−r/γrα−111(0,∞)(r)

× 1

φδΓ(φ)e−λ/φλδ−111(0,∞)(λ)

Posteriori

p(r , λ|x) ∝ 1

λnrΓ(r)ne−nx/λ

n∏i=1

x r−1i × e−r/γrα−1

× e−λ/φλδ−1

Prof. Caio Azevedo

Algoritmos MCMC

Page 25: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Distribuicoes condicionais completas

Priori

p(r |λ, x) ∝ 1

λnrΓ(r)n

n∏i=1

x r−1i × e−r/γrα−1

p(λ|r , x) ∝ e−nx/λe−λ/φλδ−1

Algoritmo: simular, iterativamente, valores para (r , λ) atraves das

duas distribuicoes acima.

Prof. Caio Azevedo

Algoritmos MCMC

Page 26: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Simulacao das distribuicoes condicionais completas

Se todas as distribuicoes condicionais completas forem conhecidas e

faceis de simular, teremos o algoritmo do amostrador de Gibbs

(“Gibbs sampling”).

Como no exemplo anterior da distribuicao normal.

Ponto importante, identificada a distribuicao condicional completa,

eg, normal, inversa gama, t de Student, devemos escolher algoritmos

apropriados para simular delas (eg, transformada inversa, rejeicao,

rejeicao adaptativa, amostragem por importancia).

Prof. Caio Azevedo

Algoritmos MCMC

Page 27: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Amostrador de Gibbs

Inicie as cadeias com valores iniciais conveniente.

Simule, para r=1,2,...,R:

1 θ(r)1 de θ

(r)1 |θ(r−1)

2 , θ(r−1)3 , ..., θ

(r−1)k , x.

2 θ(r)2 de θ

(r)2 |θ(r)

1 , θ(r−1)3 , ..., θ

(r−1)k , x.

3 θ(r)3 de θ

(r)3 |θ(r)

1 , θ(r)2 , ..., θ

(r−1)k , x.

...

4 θ(r)k de θ

(r)2 |θ(r)

1 , θ(r)2 , ..., θ

(r)k−1, x.

Prof. Caio Azevedo

Algoritmos MCMC

Page 28: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Pacote geral

Programa WinBugs: permite ajustar modelos complexos usando

diveros algoritmos do tipo MCMC.

Em geral, basta apenas fornecer o modelo (verossimilhanca) e prioris.

Limitacoes no uso de prioris improprias (Jeffreys).

Expedientes disponıves para inserir verossimilhancar e prioris que nao

sao padrao.

Pode ser utilizado de modo mais simples atraves do pacote do R

R2WinBUGS.

Prof. Caio Azevedo

Algoritmos MCMC

Page 29: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Algoritmos para simular das cond.(traducao do manual)

Condicional completa contınua

Conjugada (conhecida): amostragem direta usando algoritmos

padrao.

Log-concava: Rejeicao adaptativa de derivacao livre (Gilks, 1992).

Espaco parametrico restrito: Amostragem por corte

(“slice-sampling”), Neal, 1997.

Espaco parametrico restrito: Metropolis-Hastings (adaptativo).

Condicional completa discreta

Limite superior finito: transformada inversa.

Poisson deslocada: amostragem direta usando algoritmos padrao.

Prof. Caio Azevedo

Algoritmos MCMC

Page 30: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Voltando ao exemplo da distribuicao gama

Exemplo da durabilidade das turbinas.

Algoritmo WinBUGS para o ajuste do modelo.

Sem títulogamamodel<-function(){for (i in 1 : N){y[i]~dgamma(r,lambdaa)}r~dgamma(0.01,0.01)lambda~dgamma(0.1,0.1)lambdaa<-pow(lambda,-1)}

Página 1

Prof. Caio Azevedo

Algoritmos MCMC

Page 31: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Traceplots para os tres conjuntos de cadeias geradas

0 2000 4000 6000 8000 10000

23

45

67

Iterations

Trace of r

0 2000 4000 6000 8000 10000

23

45

6

Iterations

Trace of lambda

Prof. Caio Azevedo

Algoritmos MCMC

Page 32: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Autocorrelacoes para um dos conjuntos de cadeias

0 5 10 15 20 25 30 35

−1

.00

.01

.0

Lag

Au

toco

rre

latio

n

r

0 5 10 15 20 25 30 35

−1

.00

.01

.0

Lag

Au

toco

rre

latio

n

lambda

Prof. Caio Azevedo

Algoritmos MCMC

Page 33: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Grafico das medianas acumuladas para um dos conjuntos

de cadeias

0 2000 4000 6000 8000 10000

3.5

4.5

5.5

Iterations

rg

am

ma

r

0 2000 4000 6000 8000 10000

1.8

2.2

2.6

Iterations

rg

am

ma

lambda

Prof. Caio Azevedo

Algoritmos MCMC

Page 34: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Grafico da estatıstica de Geweke para um dos conjuntos de

cadeias

0 1000 2000 3000 4000 5000

−2

−1

01

2

First iteration in segment

Z−

sco

re

r

0 1000 2000 3000 4000 5000

−2

−1

01

2

First iteration in segment

Z−

sco

re

lambda

Prof. Caio Azevedo

Algoritmos MCMC

Page 35: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Grafico da estatıstica de Gelman-Rubin para um dos

conjuntos de cadeias

0 2000 4000 6000 8000 10000

1.0

1.5

2.0

2.5

3.0

3.5

4.0

4.5

last iteration in chain

shri

nk

fact

or

median

97.5%

r

0 2000 4000 6000 8000 10000

12

34

5

last iteration in chain

shri

nk

fact

or

median

97.5%

lambda

Prof. Caio Azevedo

Algoritmos MCMC

Page 36: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Histograma da amostra valida para um dos conjuntos de

cadeiasHistograma de r

valores

de

nsi

da

de

2 3 4 5 6 7

0.0

0.2

0.4

Histograma de gamma

valores

de

nsi

da

de

1 2 3 4 5

0.0

0.4

0.8

Prof. Caio Azevedo

Algoritmos MCMC

Page 37: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Estimativas Bayesianas para um dos conjuntos de cadeias

Resumo

Estatıstica Parametro

r λ

EAP 4,01 2,59

MeAP 4,02 2,49

EPAP 0,73 0,52

ICB(%) [2,75;5,57] [1,80;2,79]

Modelo gama: pD = 1, 618;DIC = 297, 206. Modelo exponencial

pD = 0, 95;DIC = 331, 928.

Prof. Caio Azevedo

Algoritmos MCMC

Page 38: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Exemplo: mortalidade de besouros

Dados relativos ao percentual de besouros mortos expostos a

diferentes doses de disulfeto de carbono gasoso.

Dose log10CS2 Besouros expostos Besouros mortos

1,6907 59 6

1,7242 60 13

1,7552 62 18

1,7842 56 28

1,8113 63 52

1,8369 59 53

1,8610 62 61

1,8839 60 60

Prof. Caio Azevedo

Algoritmos MCMC

Page 39: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Exemplo: mortalidade de besouros

Modelo

Yi ∼ Binomial(mi , pi )

ln

(pi

1− pi

)= β0 + β1(x − x), i = 1, 2, ..., 8

Prof. Caio Azevedo

Algoritmos MCMC

Page 40: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Comandos

Algoritmo WinBUGS para o ajuste do modelo.

Sem títuloprobitmod<-function(){ for( i in 1 : N ) { r[i] ~ dbin(p[i],n[i]) logit(p[i]) <- beta0 + beta1 * (x[i]-1.793425) } beta0 ~ dnorm(0.0,0.001) beta1 ~ dnorm(0.0,0.001) }

Página 1

Prof. Caio Azevedo

Algoritmos MCMC

Page 41: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Traceplots para os tres conjuntos de cadeias geradas

0 2000 4000 6000 8000 10000

0.2

0.6

1.0

Iterations

Trace of beta0

0 2000 4000 6000 8000 10000

25

35

45

Iterations

Trace of beta1

Prof. Caio Azevedo

Algoritmos MCMC

Page 42: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Autocorrelacoes para um dos conjuntos de cadeias

0 5 10 15 20 25 30 35

−1

.00

.01

.0

Lag

Au

toco

rre

latio

n

beta0

0 5 10 15 20 25 30 35

−1

.00

.01

.0

Lag

Au

toco

rre

latio

n

beta1

Prof. Caio Azevedo

Algoritmos MCMC

Page 43: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Grafico das medianas acumuladas para um dos conjuntos

de cadeias

0 2000 4000 6000 8000 10000

0.7

00

.74

0.7

8

Iterations

beta0

0 2000 4000 6000 8000 10000

33

.03

4.0

Iterations

beta1

Prof. Caio Azevedo

Algoritmos MCMC

Page 44: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Grafico da estatıstica de Geweke para um dos conjuntos de

cadeias

0 1000 2000 3000 4000 5000

−2

−1

01

2

First iteration in segment

Z−

sco

re

beta0

0 1000 2000 3000 4000 5000

−2

−1

01

2

First iteration in segment

Z−

sco

re

beta1

Prof. Caio Azevedo

Algoritmos MCMC

Page 45: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Grafico da estatıstica de Gelman-Rubin para um dos

conjuntos de cadeias

0 2000 4000 6000 8000 10000

1.0

1.1

1.2

1.3

1.4

last iteration in chain

shri

nk

fact

or

median

97.5%

beta0

0 2000 4000 6000 8000 10000

1.0

01

.01

1.0

21

.03

last iteration in chain

shri

nk

fact

or

median

97.5%

beta1

Prof. Caio Azevedo

Algoritmos MCMC

Page 46: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Histograma da amostra valida para um dos conjuntos de

cadeiasHistograma de beta0

valores

de

nsi

da

de

0.2 0.4 0.6 0.8 1.0 1.2

0.0

1.0

2.0

Histograma de beta1

valores

de

nsi

da

de

25 30 35 40 45

0.0

00

.06

0.1

2

Prof. Caio Azevedo

Algoritmos MCMC

Page 47: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Estimativas Bayesianas para um dos conjuntos de cadeias

Resumo

Estatıstica Parametro

β0 β1

EAP 0,74 34,29

MeAP 0,74 34,24

EPAP 0,14 2,89

ICB(%) [0,48;1,02] [28,85;40,09]

Modelo com a covariavel pD = 1, 894;DIC = 42, 089. Modelo sem

covariavel pD = 1, 017;DIC = 312, 434.

Prof. Caio Azevedo

Algoritmos MCMC

Page 48: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Exemplo : Num. de bacterias sobreviventes.

Dados relativos numero de bacterias sobreviventes em amostras de um produto alimentıcio

segundo o tempo (em minutos) de exposicao do produto a uma temperatura de 300oF .

Numero de bacterias Tempo de exposicao

175 1

108 2

95 3

82 4

71 5

50 6

49 7

31 8

28 9

17 10

16 11

1 12

Prof. Caio Azevedo

Algoritmos MCMC

Page 49: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Exemplo: Nume. de bacterias sobreviventes.

Modelo

Yi ∼ Poisson(µi )

ln (µi ) = β0 + β1(x − x), i = 1, 2, ..., 12

Prof. Caio Azevedo

Algoritmos MCMC

Page 50: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Comandos

Algoritmo WinBUGS para o ajuste do modelo.

Sem títulopoiregmod<-function(){ for( i in 1 : N ) { y[i] ~ dpois(mu[i]) log(mu[i]) <- beta0 + beta1 * (x[i]-6.5) } beta0 ~ dnorm(0.0,0.001) beta1 ~ dnorm(0.0,0.001) }

Página 1

Prof. Caio Azevedo

Algoritmos MCMC

Page 51: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Traceplots para os tres conjuntos de cadeias geradas

0 2000 4000 6000 8000 10000

3.4

3.8

Iterations

Trace of beta0

0 2000 4000 6000 8000 10000

−0

.30

−0

.20

Iterations

Trace of beta1

Prof. Caio Azevedo

Algoritmos MCMC

Page 52: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Autocorrelacoes para um dos conjuntos de cadeias

0 5 10 15 20 25 30 35

−1

.00

.01

.0

Lag

Au

toco

rre

latio

n

beta0

0 5 10 15 20 25 30 35

−1

.00

.01

.0

Lag

Au

toco

rre

latio

n

beta1

Prof. Caio Azevedo

Algoritmos MCMC

Page 53: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Grafico das medianas acumuladas para um dos conjuntos

de cadeias

0 2000 4000 6000 8000 10000

3.5

3.6

3.7

3.8

Iterations

rg

am

ma

beta0

0 2000 4000 6000 8000 10000

−0

.29

−0

.26

−0

.23

Iterations

rg

am

ma

beta1

Prof. Caio Azevedo

Algoritmos MCMC

Page 54: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Grafico da estatıstica de Geweke para um dos conjuntos de

cadeias

0 1000 2000 3000 4000 5000

−2

−1

01

2

First iteration in segment

Z−

sco

re

beta0

0 1000 2000 3000 4000 5000

−2

−1

01

2

First iteration in segment

Z−

sco

re

beta1

Prof. Caio Azevedo

Algoritmos MCMC

Page 55: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Grafico da estatıstica de Gelman-Rubin para um dos

conjuntos de cadeias

0 2000 4000 6000 8000 10000

1.0

01

.05

1.1

01

.15

1.2

01

.25

1.3

0

last iteration in chain

shri

nk

fact

or

median

97.5%

beta0

0 2000 4000 6000 8000 10000

1.0

01

.05

1.1

01

.15

1.2

01

.25

1.3

0

last iteration in chain

shri

nk

fact

or

median

97.5%

beta1

Prof. Caio Azevedo

Algoritmos MCMC

Page 56: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Histograma da amostra valida para um dos conjuntos de

cadeiasHistograma de beta0

valores

de

nsi

da

de

3.5 3.6 3.7 3.8 3.9 4.0

02

46

8

Histograma de beta1

valores

de

nsi

da

de

−0.30 −0.28 −0.26 −0.24 −0.22 −0.20

01

02

03

0

Prof. Caio Azevedo

Algoritmos MCMC

Page 57: Algoritmos MCMC - Unicampcnaber/aula_MCMC_IB.pdf · Algoritmos de Monte Carlo via Cadeias de Markov O conjunto de algoritmos que permitem simular vari aveis (iterativamente) a partir

Motivacao

Estimativas Bayesianas para um dos conjuntos de cadeias

Resumo

Estatıstica Parametro

β0 β1

EAP 3,81 -0,22

MeAP 3,82 -0,23

EPAP 0,04 -0,23

ICB(%) [3,72;3,91] [-0,26;-0,21]

Modelo com a covariavel pD = 1, 988;DIC = 80, 163. Modelo sem

covariavel pD = 0, 985;DIC = 463, 359.

Prof. Caio Azevedo

Algoritmos MCMC