Redes Neurais Artificiais Prof. Júlio Cesar Nievola PPGIA – PUCPR Especialização em Inteligência Computacional

Redes Neurais Artificiais

Prof. Júlio Cesar NievolaPPGIA – PUCPREspecialização em Inteligência Computacional

Prof. Júlio Cesar Nievola PPGIA - PUCPR

Especialização em Inteligência Computacional Redes Neurais Artificiais

2


• Sistemas Neurais Artificiais• Conexionismo• Sistemas Adaptativos• Neurocomputadores• Sistemas Massivamente Paralelos

Distribuídos• Redes Neurais (Artificiais)



3

Redes Neurais Artificiais• Reunião no Dartmouth College• Paradigmas básicos:

• Simbólico• Conexionista

• Perceptron (1 camada de pesos ajustáveis)

• Descrédito a partir do final da década 60

• Impulso a partir da década de 80



4

Computador x cérebro

Velocidade de processamento CPU: Clock (Cray 3) 4.2ms Neural: disparo neurônio ms

Ordem de processamento CPU: serial Neural: paralelo

Abundância e complexidade: CPU: um ou poucos processadores Neural: 1011-1014 neurônios; 103-104

conexões/neurônio



5

Computador x cérebro

Armazenamento do conhecimento CPU: estritamente relocável Neural: adaptativo

Tolerância a falhas CPU: mínima, senão inexistente Neural: boa

Controle do processamento CPU: controle autocrático, centralizado Neural: controle anárquico, distribuído



6

Elemento de base

• Neurônio simplificado

• Componentes:• Axônio• Dendritos• Sinapses



7

Forma Matemática Simplificada

• Dendritos: entradas• Corpo celular:

• Soma ponderada• Função não-linear

• Axônio: distribuição aos neurônios



8

Terminologia

• Elementos de Processamento:• Nós• Memória de curto prazo• População

• Ligações entre elementos de processamento• Peso• (Força de) interconexão• Memória de longo prazo



9

Aprendizagem

• Supervisionada

• Não-supervisionada

• Com reforço



10

Etapas de Projeto

• Definir o problema• Escolher informação

• Obter dados• Criar arquivos rede

• Treinar a rede• Testar a rede• Uso em campo



11

Topologias: Construtiva



12

Topologias: Hopfield



13

Topologias: Recorrente



14

Topologias: Não-Supervisionada



15

Classificação das RNAs



16

Sub- e sobre-ajuste do polinômio



17

Extração de Regras

• É a tarefa de converter modelos de redes neurais treinadas em representações mais facilmente compreensíveis

• Surgiu em função de• Data Mining boom• Interesse em métodos como boosting,

bagging e error-correcting output codes



18

Características dos Métodos de Extração de Regras

• Compreensibilidade• Quanto são humanamente compreensíveis

• Fidelidade• Quanto modela a RNA da qual foi extraída

• Precisão• Previsão precisa sobre exemplos não vistos

• Escalabilidade• Grandes espaços de entrada, unidades e

conexões• Generalidade

• Treinamento especial e/ou restrições



19

Implementações

• Características-chave:• Computacionalmente intensivas• Massivamente paralelas• Grandes requisitos de memória

• Possibilidades de implementação• Computadores convencionais• Computadores dedicados• Implementação em hardware específico



20


• Razões para utilização• Paralelismo• Capacidade de adaptação• Memória distribuída• Capacidade de generalização• Facilidade de construção



21


• Limites de utilização• Simulação em máquinas seqüenciais• A passagem da simulação para a

implementação em hardware está no início

• O desempenho é dependente da qualidade e da pertinência do pré-tratamento efetuado



22

Redes Neurais Artificiais• Características de uma boa

aplicação• Regras de resolução do problema

desconhecidas ou difíceis de formalizar• Dispõe-se de um grande conjunto de

exemplos e suas soluções• Necessita-se de grande rapidez na

resolução do problema, p.ex. Tempo real

• Não existem soluções tecnológicas atuais



23


• Domínios de aplicação privilegiados• Reconhecimento de formas• Tratamento de sinal• Visão, fala• Previsão e modelagem• Auxílio à decisão• Robótica

Documents

Redes Neurais Artificiais Prof. Júlio Cesar Nievola PPGIA – PUCPR Especialização em Inteligência Computacional