Econometria Regressão Linear Testes de hipótese Hipóteses Ajuste

Regressão Linear ClássicaSimples e Múltipla

Fernando Antonio Slaibe Postali

Fundação Instituto de Pesquisas Econômicas

22/08/2015

Fernando Antonio Slaibe Postali Fundação Instituto de Pesquisas Econômicas

Regressão Linear Clássica

Econometria Regressão Linear Testes de hipótese Hipóteses Ajuste

Objetivos

I Rever e apresentar os principais elementos do modelo deregressão linear clássico

I Mostrar exemplos de aplicação para dados brasileiros

Fernando Antonio Slaibe Postali Fundação Instituto de Pesquisas Econômicas

Regressão Linear Clássica

Econometria Regressão Linear Testes de hipótese Hipóteses Ajuste

Econometria

I Uso de dados para a investigação da realidade.I Investigação empírica: os dados confirmam as previsões

da teoria econômica?I Inferir relações causais entre variáveis

Fernando Antonio Slaibe Postali Fundação Instituto de Pesquisas Econômicas

Regressão Linear Clássica

Econometria Regressão Linear Testes de hipótese Hipóteses Ajuste

Exemplos

I Impacto dos gastos em propaganda sobre as vendasI Impacto da renda sobre o consumoI Impacto dos anos de estudo sobre o salário

Fernando Antonio Slaibe Postali Fundação Instituto de Pesquisas Econômicas

Regressão Linear Clássica

Econometria Regressão Linear Testes de hipótese Hipóteses Ajuste

Fernando Antonio Slaibe Postali Fundação Instituto de Pesquisas Econômicas

Regressão Linear Clássica

Econometria Regressão Linear Testes de hipótese Hipóteses Ajuste

Fernando Antonio Slaibe Postali Fundação Instituto de Pesquisas Econômicas

Regressão Linear Clássica

Econometria Regressão Linear Testes de hipótese Hipóteses Ajuste

Técnica

I O princípio fundamental é ajustar uma função aos dadosobservados

I y = f (x)I x : Variável explicativaI y : Variável explicada

I Condicionantes da técnica escolhida:I Disponibilidade dos dadosI Objetivos (inferência ou previsão)

Fernando Antonio Slaibe Postali Fundação Instituto de Pesquisas Econômicas

Regressão Linear Clássica

Econometria Regressão Linear Testes de hipótese Hipóteses Ajuste

Regressão linear

I Técnica de ajuste de uma função linear aos dadosobservados

I Dois tiposI Simples: y = f (x)I Múltipla: y = f (x1, x2, · · · , xK )

Fernando Antonio Slaibe Postali Fundação Instituto de Pesquisas Econômicas

Regressão Linear Clássica

Econometria Regressão Linear Testes de hipótese Hipóteses Ajuste

Regressão linear simples

I y = α+ βx + ε

I onde:I y : variável dependente (explicada)I x : variável independente (explicativa)I α e β: coeficientes a serem estimadosI ε (erro): variável aleatória, representando o componente de

y não explicado por x .

Fernando Antonio Slaibe Postali Fundação Instituto de Pesquisas Econômicas

Regressão Linear Clássica

Econometria Regressão Linear Testes de hipótese Hipóteses Ajuste

Regressão linear simples

I Essencialmente, consiste na combinação de uma funçãodeterminística, que pressupõe a existência de uma relaçãode causalidade, com um termo aleatório ε não-observável

I ε é uma variável aleatória, com distribuição deprobabilidade dada

I Questão: como estimar α e β ?

Fernando Antonio Slaibe Postali Fundação Instituto de Pesquisas Econômicas

Regressão Linear Clássica

Econometria Regressão Linear Testes de hipótese Hipóteses Ajuste

Fernando Antonio Slaibe Postali Fundação Instituto de Pesquisas Econômicas

Regressão Linear Clássica

Econometria Regressão Linear Testes de hipótese Hipóteses Ajuste

Estimadores

I Estimador de Mínimos QuadradosI Minimiza a soma dos quadrados dos resíduos de todas as

observaçõesI Estimador de Máxima Verossimilhança

I Maximiza a probabilidade de gerar aquele vetor deparâmetros, dada a amostra

I Sob certas hipóteses, ambos resultam nas mesmasestimativas

Fernando Antonio Slaibe Postali Fundação Instituto de Pesquisas Econômicas

Regressão Linear Clássica

Econometria Regressão Linear Testes de hipótese Hipóteses Ajuste

Estimador de Mínimos Quadrados

I yi : observadoI yi = α+ βxi : estimadoI εi = yi − yi : resíduoI O estimador seleciona α e β de forma a minimizar:I

∑Ni=1 ε

2i =

∑Ni=1 (yi − yi)

2

=∑N

i=1 (yi − α− βxi)2

Fernando Antonio Slaibe Postali Fundação Instituto de Pesquisas Econômicas

Regressão Linear Clássica

Econometria Regressão Linear Testes de hipótese Hipóteses Ajuste

Estimativas de mínimos quadrados

β =∑N

i=1 (yi−y)(xi−x)∑Ni=1 (xi−x)2 =

σxy

σ2x

α = y − βx

Fernando Antonio Slaibe Postali Fundação Instituto de Pesquisas Econômicas

Regressão Linear Clássica

Econometria Regressão Linear Testes de hipótese Hipóteses Ajuste

Regressão linear múltipla

I x1, x2, · · ·, xK variáveis independentesI y = α+ β1x1 + β2x2 + · · ·+ βK xK + ε

I Fórmulas dos estimadores requerem notação matricial,mas a ideia é a mesma da regressão simples

Fernando Antonio Slaibe Postali Fundação Instituto de Pesquisas Econômicas

Regressão Linear Clássica

Econometria Regressão Linear Testes de hipótese Hipóteses Ajuste

Significância dos coeficientes

I Coeficientes βk são variáveis aleatóriasI E(βk ) = βk

I σ2β = σ2

ε(X ′X)−1

n−KI Teste de significância estatística:

tN−K = βσβ

I O objetivo é testar se o coeficiente estimado éestatisticamente diferente de zero

Fernando Antonio Slaibe Postali Fundação Instituto de Pesquisas Econômicas

Regressão Linear Clássica

Econometria Regressão Linear Testes de hipótese Hipóteses Ajuste

Hipóteses do modelo de Regressão Linear Clássico

1. E(εi) = 0I A esperança matemática do erro ε é igual a zero, para

todas as observações i = 1, ...,N

2. Var(εi) = σ2ε

I A variância do erro ε é constante, para todas asobservações i = 1, ...,N

3. ε ∼ N(0, σ2ε )

I O erro possui distribuição normal

4. E(εiεj) = 0I Os erros correspondentes a observações diferentes são

independentes e portanto, não autocorrelacionados

5. X não é variável aleatória

Fernando Antonio Slaibe Postali Fundação Instituto de Pesquisas Econômicas

Regressão Linear Clássica

Econometria Regressão Linear Testes de hipótese Hipóteses Ajuste

Análise de Variância - ANOVA

I Qualidade do ajuste da função linear aos dadosI Definições

I Soma dos quadrados total:SQT =

∑Ni=1 (yi − y)2

I Soma dos quadrados da regressão:SQRg =

∑Ni=1 (yi − y)2

I Soma dos quadrados dos resíduos:SQRs =

∑Ni=1 (yi − yi)

2

I Mostra-se que:SQT = SQRg + SQRs

Fernando Antonio Slaibe Postali Fundação Instituto de Pesquisas Econômicas

Regressão Linear Clássica

Econometria Regressão Linear Testes de hipótese Hipóteses Ajuste

Análise de Variância - ANOVA

I Coeficiente de Determinação:

R2 = SQRgSQT =

∑Ni=1 (yi−y)2∑Ni=1 (yi−y)2

I Indica a proporção da variação total em y decorrente devariações em x .

I 0 ≤ R2 ≤ 1I Quando R2 → 1, melhor a precisão da regressão

Fernando Antonio Slaibe Postali Fundação Instituto de Pesquisas Econômicas

Regressão Linear Clássica

Econometria Regressão Linear Testes de hipótese Hipóteses Ajuste

Análise de Variância - ANOVA

I Significância conjunta da regressão:F(K ,N−K−1) =

SQRg/KSQRs/N−K−1

I K é o número de variáveis independentes

Fernando Antonio Slaibe Postali Fundação Instituto de Pesquisas Econômicas

Regressão Linear Clássica