Auto Valores e Auto Vetores

Autovalorese

Autovetores

O sistema linear do tipo:

bAy

Matriz arbitrária ( N x N )

Não iremos resolver este sistema de equações lineares

Estudaremos propriedades básicas deste sistema

x

xA

DEFINIÇÃO: seA é uma matriz arbitrária N x N, então

um vetor não nuloxem RN é chamado autovetor

(eigenvector) deA se o vetor xA é um escalar múltiplo

do vetor x: xxA

x

xA

xxA

(NxN)

autovetor

autovalor

x

xA

xxA

Autovetor (eigenvector)

Autovalor (eigenvalue)

xxA

xIxA

Como achar os autovalores da matriz A (N x N) ?

0xIA

0x 0 DET

IA


0 DET

IA

EQUAÇÃO CARACTERÍSTICA DA MATRIZ

A

Interpretação Geométrica de autovalor e autovetor:

4 8

8 4A

Observação no. 1

Observação no. 2

Variável no.1

Variável no.2

4 8

8 4A

Interpretação Geométrica de autovalor e autovetor:

Observação no. 1

Observação no. 2

Variável no.1

Variável no.2Variável no.1

Var

iáve

l n

o.2

8

4

Observação no. 1

Observação no. 2

8

4

0 DET

IA

4 8

8 4A

064)4(48

84 2

-λ

-λ

-λDET

SOLUÇÃO DESTA EQUAÇÃO É:

e 412 21


xxA

xIxA

Como achar os autovetores da matriz A (N x N) ?

0xIA

Usamos o autovalor para achar o autovetor 1 121

Usamos o autovalor para achar o autovetor 2 42

0xIA

Usando o autovalor para achar o autovetor 1 121

0

0

48

84

2

1

1

1

1

1

x

x

-λ

-λ

088

088

21

21

11

11

xx

xx

1

11 xA solução é:

0xIA

Usando o autovalor para achar o autovetor 1 42

0

0

48

84

2

1

2

2

2

2

x

x

-λ

-λ

088

088

21

21

22

22

xx

xx

1

12 xA solução é:

Variável 1

Vari

ável 2

4 8

8 4A

Observação no.1 (4,8)


12

4 x1

x2

1

11 x

121 42

1

12 x

4

12

2

1

A forma elíptica indica a existência de um autovalor

próximo a zero

Mas o que significa autovalor próximo a zero ?

Interpretação Geométrica de autovalor e autovetor em dois

casos extremos:

caso (1) :Matriz não singular

caso (2) : Matriz é singular

4 0

0 4A

4 4

4 4A

caso (1) :Matriz não singular

caso (2) : Matriz é singular

4 0

0 4A

4 4

4 4A

Qual é a interpretação Geométrica dos autovalores e autovetores neste

dois casos extremos ?

Qual o valor numérico dos autovalores nestes dois caso?

Variável 1

Vari

ável 2

4 0

0 4A



4

4

x1

x2

0

11 x

41 42

1

02 x

4

4

2

1

Observações NÃO redundantes

caso (1) :Matriz não singular caso (1) :Matriz não singular

A forma circular indica a existência de autovalores

idênticos

Autovalores idênticos indica INDEPENDÊNCIA LINEAR do

sistema

Variável 1

Vari

ável 2

4 4

4 4A

Observação no.1 (4,4) =Observação no.2 (4,4)8

x1

1

11 x

81 02

1

12 x 0

8

2

1

x2

Observações Redundantes

caso (2) :Matriz Singular caso (2) :Matriz Singular

A forma LINEAR indica a existência de um autovalor zero

AUTOVALOR ZERO indica DEPENDÊNCIA LINEAR do

sistemaDET da MATRIZ É ZERO

NÃO UNICIDADE DA SOLUÇÃO

A forma elíptica fina indica a existência de um autovalor muito

próximo a zero

AUTOVALOR PRÓXIMO A ZERO indica uma QUASE

DEPENDÊNCIA LINEAR do sistema

DET da MATRIZ É próximo a ZERO

SOLUÇÃO UNICIDADE

porém

INSTÁVEL

Como a Análise dos Autovalores da matriz

associada com o sistema linear correspondente pode caracterizar um

problema MAL-POSTO ?

AUTOVALOR ZERO:

AUTOVALOR PRÓXIMO A ZERO:

NÃO HÁ UNICIDADE DA SOLUÇÃO

HÁ UNICIDADE DA SOLUÇÃO PORÉM A SOLUÇÃO É

INSTÁVEL


DET =

A

DET = 0 A

Associação entre: Unicidade da solução, Determinante e

Autovalor da matriz (NxN) do sistema linear

A

HÁ UNICIDADE DA SOLUÇÃO porém a solução é instável

DET =

A

DET 0 A

Associação entre: Estabilidade da solução, Determinante e

Autovalor da matriz (NxN) do sistema linear

A

Auto Sistema :

bAy

Matriz arbitrária ( N x N )N ,...,1 N ,...,1

Se existe N autovalores:

Então existe um conjunto LI de N autovetores

Nxxxx ...,,, 321

111 xxA

111 xxA 222 xxA NN xxA N

NN xxxxAxAxA N221121 ,..., , ,...,,

Auto Sistema :

bAy N ,...,1 N ,...,1



Nxxxx ...,,, 321

111 xxA

N

2

1

2121

000

000

00 0

000

... ...

NN xxxxxxA

NN xxxxAxAxA N221121 ,..., , ,...,,

bAy

Auto Sistema :

ΛPPA

ΛPPA

N

2

1

2121

000

000

00 0

000

... ...

NN xxxxxxA

NN xxxxAxAxA N221121 ,..., , ,...,,

bAy

Auto Sistema :

ΛPPA

ΛPPA

N

2

1

2121

000

000

00 0

000

... ...

NN xxxxxxA

bAy

Auto Sistema :

ΛPPA

bAy

Auto Sistema :

N ,...,1 N ,...,1



Nxxxx ...,,, 321

111 xxA

Tal que :

1 PΛPA

11 PΛPPPA

ΛPPA

bAy

Auto Sistema :

Auto Sistema :

bAy

Matriz arbitrária ( N x N )N ,...,1 N ,...,1

A existência de N autovalores:

1 PΛPA

leva a existência de um conjunto LI de N autovetores que formam os vetores colunas de uma matriz que permite fazermos a seguinte decomposição

Nxx ,...,1NNR P

O Nosso sistema linear na geofísica:

pAy

Matriz arbitrária ( N x M )

Não iremos resolver este sistema de equações lineares

Estudaremos propriedades básicas deste sistema

)()()( 1MMN1N pAy

Sistema linear principal:

Sistema linear adjunto:

)()()( 1M1NNMT xqA

)()()( 1MMN1N pAy

Combinando o Sistema linear Principal

)()()( 1M1NNMT xqA

Dentro de um novo Sistema Linear:

Com o Sistema Linear Adjunto:

)()()( 1MN1MNMNMN azT

)()()( 1N1MMN ypA

)()()( 1M1NNMT xqA

Novo Sistema Linear:

)()()( 1MN1MNMNMN azT

T0A

A0

M

N

MN

p

q

x

y

M

N

M

N

Sistema principal:

Sistema adjunto:

TMN MN

0A

A0T

wwT s

0wIT s

A nova matriz é quadrada, logo podemos achar os autovalores e autovetores

T

v

u

v

u

0A

A0s

M

N

v

u

(N + M x 1)

w wwT s

vuA

u vA

s

sT

problema de autovalor deslocado

Pré x TA

Pré x A

vAuAA

uA vAA

s

sT

TT

vuA

u vA

s

sT

vuA

u vA

s

sT

vAuAA

uA vAA

s

sT

TT

uuAA 2sT

v vAA 2s T

M x M

N x N

Dois problemas autovetores-autovalores:

v vAA 2s T

1)

uuAA 2sT

2)

AUTOVALORES

M x M

N x N


v vAA 2s T

1)

uuAA 2sT

2)

AUTOVETORES

M x M

N x N


v vAA 2s T

1)

uuAA 2sT

2)

AUTOVETORES AUTOVALORES

M x M

N x N


v vAA 2s T

1)

uuAA 2sT

2)

Existirão no máximo MIN(M,N) autovalores diferentes de zero

M x M

v vAA 2s T

Se N > M existirão no máximo M autovalores diferentes de zero

MMM s

s

s

v vAA

v vAA

v vAA

2

22

22

12

11

T

T

T

Presumindo-se, que N > M existirão no máximo M autovalores diferentes de zero

MMM s

s

s

v vAA

v vAA

v vAA

2

22

22

12

11

T

T

T

MMM sss vvv vvvAA 22

221

2121

T

MMM sss vvv vvvAA 22

221

2121

T

2

22

21

21

22221

11211

MMMMM

M

M

s

s

s

vvv

vvv

vvv

T

VAA

Mvvv 21

Presumindo-se, que N > M existirão no máximo M autovalores diferentes de zero


2

22

21

21

22221

11211

MMMMM

M

M

s

s

s

vvv

vvv

vvv

T

VAA

Mvvv 21

2SV VAA T

N x N

u uAA 2s T

Se M > N existirão no máximo N autovalores diferentes de zero

NNN s

s

s

u uAA

u uAA

u uAA

2

22

22

12

11

T

T

T

NN sss uuu uuuAA 22

21

221 T


NNN s

s

s

u uAA

u uAA

u uAA

2

22

22

12

11

T

T

T

NN sss uuu uuuAA 22

21

221 T


2

22

21

21

22221

11211

NNNNN

N

N

s

s

s

uuu

uuu

uuu

T UAA

Nuuu 21


2

22

21

21

22221

11211

NNNNN

N

N

s

s

s

uuu

uuu

uuu

T UAA

Nuuu 21

2SUUAA T


2SV VAA T


2SUUAA T

(MxM) (MxM) (MxM)

(NxN) (NxN) (NxN)

Generalização

MMM

uv A

u vA

u vA

s

s

s

222

111

u vA s

Sem perda de generalidade, considere N > M. Então existirão no máximo M autovalores diferentes de

zero

Generalização

MMM

uv A

u vA

u vA

s

s

s

222

111

MMM sss uuu vvvA 221121

Caso em que N > M (no máximo M autovalores diferentes de zero)

N-M

Generalização MMM sss uuu vvvA 221121

1u 2u Nu

MN

Mu 1MuM

Caso em que N > M (no máximo M autovalores diferentes de zero)

M

NNNMNMNN

NMM

NMM

s

s

s

uuuuu

uuuuu

uuuuu

0

VA

2

1

121

21222221

11111211

0

VA M

NNNMNMNN

NMM

NMM

s

s

s

uuuuu

uuuuu

uuuuu 2

1

121

21222221

11111211

Generalização

N M

)()()()( MNNNMMMN SUVA

N

Generalização


Quem são as matrizes

?)()( MMNN

eVU

2SV VAA T

vvvV M21

2SUUAA T uuuU N21 Autovetores da T AA

Autovetores da T

AA

Generalização

IVVVV)( MM

TT

)( NN

TT

I UUUU

As matrizes

)MM()NN(e

VU

são ortogonais


As colunas da matriz )NN(

U são bases do espaço N

(das observações)

As colunas da matriz

são bases do espaço M(dos parâmetros)

)MM( V

Generalização


TT VSUVVA I

Pós multiplicando a equação por T

V

Generalização


Pós multiplicando a equação por T

V

TVSUA

DECOMPOSIÇÃO EM VALORES SINGULARES DA MATRIZ A

Generalização

)MM(

T

)MN()NN()MN( VSUA

2

1

)MN(

s

s

S

2SV VAA T

2SUUAA T

autovalores autovalores

Os valores singulares da matriz )MN( A

A importância da Decomposição de uma

Matriz em valores SINGULARES permite

detectar se um problema é MAL-POSTO

Valor singular ZERO:

Valor singular PRÓXIMO A ZERO:


HÁ UNICIDADE DA SOLUÇÃO PORÉM A SOLUÇÃO É

INSTÁVEL

Decomposição de uma Matriz em valores SINGULARES no caso em que

r valores singulares são NULOS e r < (M e N)

T

)()()()( MMMNNNMN VSUA

00

0SS r

rr

M - rN

- r

)(

VVV rMr

MM

rNr

NNU UU

)(N

r N - r

N

M

M

r M - r

TVSUA

r valores singulares são NULOS

r < (M e N)

T

rM

Trr

rNr V

V

00

0SU UA

Trrr VSUA

Visualização do Espaço Iluminado e Espaço Não Iluminado (Espaço nulo)

através da interpretação em duas dimensões Exercícios 2 e 3

oypA

O problema consiste em resolver o seguinte sistema linear de duas equações e duas incógnitas:

2 p(1) + p(2) = y(1)2 p(1) + 1.000001 p(2) = y(2)

2

1

2

1

000001.12

12

y

y

p

p

O determinante desta matriz é quase zero (2 × 10-6), caracterizando matematicamente um problema mal-posto devido

a instabilidade da solução estimada.

Exercícios 2 e 3

2

1

2

1

000001.12

12

y

y

p

p

Se estabeleço que os parâmetros verdadeiros são:5 5

Dados Livres de ruido

y(1) = 15.000000 y(2) = 15.000005

Dados COM de ruido

y(1) = 15.415667732 y(2) = 15.127581767

Exercícios 2 e 3

Os parâmetros estimados via MQ é

1.44165917968750 1.0e+005

-2.88316414062500 1.0e+005

15.127

15.415

000001.12

12

2

1

p

p

oTyAAAp 1- Tˆ

Exercícios 2 e 3

2}{1

N

iiMINQMIN

0 0.5 1 1.5 2

x 105

-4

-3.5

-3

-2.5

-2

-1.5

-1

-0.5

x 105

FUNCIONAL DOS DADOS

1p

2p

15.127

15.415

000001.12

12

2

1

p

p

(+) Os parâmetros estimados via MQ

1.44165917968750 1.0e+005

-2.88316414062500 1.0e+005

(*) Parâmetros verdadeiros :5 5

0*

22221212

22121111

papaypapayQ oo

U =

0.70710671047584 -0.70710685189724

0.70710685189724 0.70710671047584

S =

3.16227797639622 0

0 0.00000063245547

V =

0.89442710155718 -0.44721377438539

0.44721377438539 0.89442710155718

Exercícios 2 e 3 TVSUA

000001.12

12A

Exercícios 2 e 3

x 105

x 105

0 1 2

-4

-3.5

-3

-2.5

-2

-1.5

-1

-0.5

0

FUNCIONAL DOS DADOS 1p

2p

V =

0.894 -0.447

0.447 0.894

S =

3.162 0

0 0.000000632 rV M-rV

2}{1

N

iiMINQMIN *

PREPARANDO OS SEUS

CORAÇÕESINHOS PARA O EXERCÍCIO 3

oypA

Para garantir a existência, ao invés de resolver o sistema:

minimiza-se:

Exercício prático n.2 - parte 2

Exercício prático n.3

22221212

22121111

papaypapayQ oo TTQ )()( pAypAy oo

Para garantir a existência, ao invés de resolver o sistema:

minimiza-se:

Exercício prático n.2 - parte 2

Exercício prático n.3

02222121

01212111

ypapa

ypapa

22221212

22121111

papaypapayQ oo

0.00 1.00 2.00 3.00 4.00 5.00 6.000.00

1.00

2.00

3.00

4.00

5.00

6.00

0.00 1.00 2.00 3.00 4.00 5.00 6.000.00

1.00

2.00

3.00

4.00

5.00

6.00

0.00 1.00 2.00 3.00 4.00 5.00 6.000.00

1.00

2.00

3.00

4.00

5.00

6.00

0.00 1.00 2.00 3.00 4.00 5.00 6.000.00

1.00

2.00

3.00

4.00

5.00

6.00

p1

p1

p2

p2

Visualização da Função Q para os 3 casos

Solução não única

Det A zero

Solução instável Solução estável

Det A grande

22221212

22121111

papaypapayQ oo

0.00 1.00 2.00 3.00 4.00 5.00

0.00

min (p)

sujeito a

(yo-Ap)T (yo-Ap)=

min (p)

sujeito a

(yo-Ap)T (yo-Ap) =

=

min (p)

Solução via multiplicadores de Lagrange

(yo-Ap)T (yo-Ap)

0.00 0.50 1.00 1.50 2.00 2.50 3.00 3.50 4.000.00

0.50

1.00

1.50

2.00

2.50

3.00

3.50

4.00

0.00 1.00 2.00 3.00 4.00 5.00 6.000.00

1.00

2.00

3.00

4.00

5.00

6.00

0.00 1.00 2.00 3.00 4.00 5.00 6.000.00

1.00

2.00

3.00

4.00

5.00

6.00

(p)+

+

.

.

=

=

|| yo-Ap ||2

(yo-Ap)T (yo-Ap)=

p1

p2

RIDGE REGRESSION

0.00 0.50 1.00 1.50 2.00 2.50 3.00 3.50 4.000.00

0.50

1.00

1.50

2.00

2.50

3.00

3.50

4.00

0.00 1.00 2.00 3.00 4.00 5.00 6.000.00

1.00

2.00

3.00

4.00

5.00

6.00

+ . =

0.00 1.00 2.00 3.00 4.00 5.00 6.000.00

1.00

2.00

3.00

4.00

5.00

6.00

0.00 1.00 2.00 3.00 4.00 5.00 6.000.00

1.00

2.00

3.00

4.00

5.00

6.00

0.00 1.00 2.00 3.00 4.00 5.00 6.000.00

1.00

2.00

3.00

4.00

5.00

6.00

0.00 1.00 2.00 3.00 4.00 5.00 6.000.00

1.00

2.00

3.00

4.00

5.00

6.00

+ . =

SUAVIDADE

p1

p2

Documents

Auto Valores e Auto Vetores