III Simpósio Brasileiro de Engenharia de Avaliações Redes Neurais Artificiais: Fundamentos e Aplicação na Previsão de Séries Temporais Prof. Dr. Cairo

III Simpósio Brasileiro de Engenharia de AvaliaçõesIII Simpósio Brasileiro de Engenharia de Avaliações

Redes Neurais Artificiais: Redes Neurais Artificiais: Fundamentos e Aplicação na Fundamentos e Aplicação na Previsão de Séries TemporaisPrevisão de Séries Temporais

Prof. Dr. Cairo L. Nascimento Jr.Prof. Dr. Cairo L. Nascimento Jr.Divisão de Engenharia EletrônicaDivisão de Engenharia Eletrônica

Instituto Tecnológico de AeronáuticaInstituto Tecnológico de AeronáuticaE-mail: [email protected]: [email protected]

Home Page: http://www.ele.ita.br/~cairo/Home Page: http://www.ele.ita.br/~cairo/

RNAs: Fundamentose Aplicação na Previsão de Séries Temporais

• Problema atacado:– assumindo-se que existe a relação não-

linear y = f(x), onde a função f é desconhecida,

– conhecendo-se N pontos de pares (x,y),

– deseja-se reconstruir a função f.

Reconstrução de hipersuperfícies


• Abordagem Linear:

• Abordagem Neural:

P

jjj xwy

1

i

P

jjij

M

ii xwghy

11


• Modelo Linear com q saídas:y

1x

W 1 1

L

u n i d a d el i n e a r

LL L

y1

q p

c a m a d ad e e n t r a d a

2x x p

L L

W

q

L

y2 3

L

y

c a m a d ad e s a í d a


• Modelo Neural com q saídas:

N L

U n i d a d eN ã o L i n e a rN L ==

L

+ 1x x1 2

L

N L

+ 1N L

LU n i d a d eL i n e a r=

1 2

L L

y y

c a m a d ae s c o n d i d a

c a m a d ad e e n t r a d a

L

x3

L

x p

N L

3

LL c a m a d ad e s a í d a

y y q


• Parâmetros do modelo linear:– w1 até wp ,

– total: P+1 parâmetros

• Parâmetros do modelo neural:– função g (ex. tangente hiperbólica)

– h1 até hM, ; para cada hi: wi1 até wip, i

– total: M (P+1) + 1


• Cada unidade da camada escondida implementa um hiperplano.

• As funções AND e OR não precisam de camada escondida e são ditas funções linearmente separáveis.

• A função XOR não é linearmente separável.


• Funções OR, AND e XOR:

A N D

S . D .

0

0= 0 o r - 1

1X

10

2

1

S . D .

X O R 2

1

X

01

= 11

X0

S . D . 21

X1

1

2XS . D . 1

X O R


• XOR:

1x x 2

x + x

00

3

x2

1x

4

- 0 . 5 1 1

- 1- 0 . 5

+ 1

- 11L

- 0 . 53

+ 1

x

1L

4x

y

3

o u ( 1 , 1 )( 0 , 0 ) 0

0x

1

( 1 , 0 )

S . D .

( x , x ) = ( 0 , 1 )1

1

x4

2= 1= 0

1

1

1 0

1

0

0 0

1 10

0 00

0 11

0 00

2xx 1 xx 3 y4


• XOR:

( x , x ) = ( 0 , 1 )

o u ( 1 , 0 )

1 2

x

0 x1

0

2

x - x4 3

1

1

- 0 . 5

+ 1

+ 1

- 1 . 5

3 4

L11 1

x

L

- 0 . 5

1

x

- 1x

1

y

x

( 1 , 1 )

S . D .

( 0 , 0 ) 0

0

1

21

x4

= 0

x3

= 1

1

1

0

111 0

1

1

0

00

1 1

1

xx

0

1

0

x

00

x2 3

0

y4


• XOR com ligação direta entrada-saída:

0

0

0

1

x ( 1 , 1 , 1 )

- 2

- 1 . 5

+ 1x 1

1L

- 0 . 5x 3

1

x 2

1L 11

01

1

00

10

xx 1 2

y

x

( 0 , 1 , 0 )

x

( 0 , 0 , 0 )0

1 2

0

1

y33

( 1 , 0 , 0 ) x 1

= 0 = 1


• Princípio do método para obtenção dos pesos a partir dos N pares (x,y):– selecionar um par (x,y) do conjunto de

treinamento,

– calcular este x a saída da RNA = yRNA,

– calcular E = y - yRNA,

– alterar o peso na direção que diminui E2.


Problema de Reconhecimento de Imagens Ruidosas



biasbiasxwghy i

N

jjij

M

ii

11

biasbiasjtxwghty i

N

jij

M

ii

11

1)(

biasbiasjtxwghty i

N

jij

M

ii

11

1)(


• Abordagem Linear:

biasxwyN

iii

1

biasitxwtyN

ii

0

biasjtyhitxwtyM

jj

N

ii

10



biasbiasxwghy i

N

jjij

M

ii

11

biasbiasjtxwghty i

N

jij

M

ii

11

1)(

biasbiasjtxwghty i

N

jij

M

ii

11

1)(

Como Tornar uma Máquina Inteligente

Entertainment Robot AIBO (http://www.aibo.com)


• Inteligência das máquinas atuais

• Estudo da Inteligência

• Tipos e Medição de Inteligência– Humana, Animal, das Máquinas,

– Extra-terrestre (SETI@home)


• Comportamento Inteligente– Importante para Competição (Seleção Natural)– Adaptação (mudanças no meio-ambiente) – Reconhecimento de Padrões (visão, fala,

diagnóstico de falhas/doenças, aplicações financeiras)

– Planejamento (Modelos, Otimização) e Auxílio a Tomada de Decisões

– Cooperação e Comunicação com outros indivíduos


Exemplos de desenvolvimento de

Equipamento Inteligente no ITA







http://www.ele.ita.br/~kawakami/barco/


X

O



Redes Neurais


Conclusões

• Estamos aos poucos aumentando o nível de inteligência das nossas máquinas.

• Área altamente multi-disciplinar e desafiadora.


Conclusões

• Aplicações extremamente práticas. Alguns exs:– classificação de empresas de telecomunicações,

– classificação de sinais eletrocardiográficos,

– temporarização de semafóros de tráfego urbano,

– otimização de sequências de montagens,

– previsão de preços de produtos

• Grandes benefícios para a indústria nacional.


Para mais detalhes:Livro “Inteligência Artificial em

Controle e Automação”, 2000Cairo L. Nascimento Jr. eTakashi YoneyamaEd. Edgard Blücher e FAPESP

http://www.ele.ita.br/ia_contaut/

Documents

III Simpósio Brasileiro de Engenharia de Avaliações Redes Neurais Artificiais: Fundamentos e Aplicação na Previsão de Séries Temporais Prof. Dr. Cairo