Monitoria de Sistemas Inteligentes Alice Lucena Prof Teresa Ludermir

Monitoria de Sistemas InteligentesAlice Lucena

Prof Teresa Ludermir

Objetivos

Projeto da disciplina O que é o MatLab?Como usar no projeto? Aliás, o que será feito?

Matlab• Matrix LABoratory é um software de alta

performance voltado para o cálculo numérico.

• Ele integra análise numérica, cálculo com matrizes, processamento de sinais e construção de gráficos.

• Problemas e soluções são expressos matematicamente através de matrizes.

• É uma linguagem interpretada, ou seja, cada comando é lido e interpretado um por vez.

• Comandos são escritos na janela de comando.

• Tudo é considerado matriz. Dados escalares são considerados com matrizes 1x1.

Ex: x = 10; x = [1 2 3]; x = ‘final’

Matlab

• Os comandos do matlab são normalmente digitados na janela de comando.

• Apenas uma linha de comando é introduzida na janela que posteriormente é interpretada.

• Porém, o matlab oferece a opção de executar seqüências de comandos armazenadas em arquivos.

Arquivos .m

• Os arquivos que contêm essas declarações são chamados de arquivos “.m” ou também scripts.

• Eles consistem de uma seqüência de comandos normais do matlab.

Exemplo:

O script que será usado por vocês para treinarem a rede neural.

Arquivos .m

• O matlab oferece a opção para visualizar gráficos.

• Há uma lista com vários comandos para plotar diferentes tipos de gráficos.

• Todos esses comandos recebem como argumento um vetor numérico.

Gráficos

Serão usados os problemas disponíveis na conhecida base de dados Proben1.

Cada problema possui 3 arquivos de dados.Ex: O problema câncer possui os arquivos cancer1.dt, cancer2.dt e

cancer3.dt.

Os arquivos diferem na ordem de apresentação dos padrões, dependendo desta ordem a rede neural pode gerar resultados diferentes.

Não haverá equipes com o mesmo arquivo de dados. As equipes terão no máximo 5 integrantes e a equipe deverá mandar email para mim (alco@cin.ufpe.br ou alice.lco@gmail.com ) com o subject (Projeto_Teresa) informando quais são os alunos que compõem a equipe. Assim que o email for recebido, será enviado ao grupo o nome do arquivo referente ao seu projeto.

Projeto da disciplina

O que é isso?

E isso?

Como vocês sabem?

Como se sabe que um urso é um urso?

Entendi nada...

Peso Tamanho ... Agressivo Classe500kg 2m ... Sim É urso550kg 2m10cm Não Não é urso

... ... ... ... ...600kg 1m80cm ... Não É urso

Projeto da disciplina

Neste projeto, não será cobrado, pois os dados já foram pré-processados.

É comum fazer normalização (para garantir que os valores estarão dentro de uma determinado intervalo). Nos problemas do Proben é usado o método min-max[0,1].Exemplo de escalonamento para o intervalo [0,1]:

Pré-processamento

)(

)(

minmax

min

xx

xxxnorm

onde xnorm é o valor normalizado correspondente ao valor original x, e xmin e xmax são os valores mínimo e máximo entre todos os valores (ou separadamente por atributo).

Projeto da disciplina

Particionamento de dados utilizado no Proben1:• 50% dos padrões de cada classe escolhidos

aleatoriamente para treinamento,• 25% para validação,• 25% para teste.

É importante que as proporções entre as classes no conjunto completo de dados sejam mantidas nos conjuntos de treinamento, validação e teste.

Particionamento dos Dados

Neste projeto, não será cobrado, pois cada arquivo de dados já está dividido em treinamento,

validação e teste.

Projeto da disciplina

Exemplo:

234 345 456 567 678 7891

100

Classe A

987 876 765 654 543 4321

100

Classe B

Normaliza e acrescenta

saídas

0.12 0.23 0.34 0.45 0.56 0.671

100

Classe A

0 1

0.87 0.76 0.65 0.54 0.43 0.321

Classe B

1 0

100

Projeto da disciplina

0.12 ... 0.671

100

Classe A

0 1

0.87 ... 0.321

Classe B

1 0

100

0.12 ... 0.6734

12

Classe A

0 1

0.87 ... 0.3246

Classe B

1 0

78

0.39 ... 0.2708 0 1

0.51 ... 0.9261 1 0

Randomiza

Randomiza

Particiona

Particiona

Classe A (50%)

Classe A (25%)

Classe A (25%)

Classe B (50%)

Classe B (25%)

Classe B (25%)

Projeto da disciplina

Classe A (50%)

Classe A (25%)

Classe A (25%)

Classe B (50%)

Classe B (25%)

Classe B (25%)

Classe A (50%)

Classe B (50%)

Classe A (25%)

Classe B (25%)

Classe A (25%)

Classe B (25%)

Treinamento

Validação

Teste

Projeto da disciplina

Aspectos que serão fixos neste projeto: Nº de nodos de entrada: Quantidade de atributos de entrada. Nº de nodos de saída:

Em problemas de classificação, é a quantidade de classes. Regra de classificação winner-takes-all: o nodo de saída que

gerar a maior saída define a classe do padrão. Em problemas de aproximação, é a quantidade de variáveis de

saída. Uma única camada escondida. Função de ativação dos neurônios: sigmóide logística. Todas as possíveis conexões entre camadas adjacentes, sem

conexões entre camadas não-adjacentes.

Definição da Topologia MLP

Começando a entender?Em que não iremos mexer?

Uma única camada escondida

Nº de nodos de saída Nº de nodos de entrada

Função de ativação dos neurônios

Projeto da disciplina

Aspectos que serão variados neste projeto: Nº de neurônios escondidos (serão usados 3 valores); A taxa de aprendizado a ser utilizada (serão usados 3

valores); O número de máximo de iterações.

Projeto da disciplina

Variando o nº de neurônios escondidos, estamos variando a quantidade de pesos da rede.Explicação: Uma rede neural implementa uma função.◦ Os pesos da rede são os parâmetros da função.◦ Dessa forma, aumentar a quantidade de pesos da rede significa aumentar a

complexidade da função implementada.

Número de neurônios na camada escondida

w1

w2

w3

w4

w5

w6

f1

f2

f3

y

x1

x2

y = f3( w5 f1 (w1 x1 + w3 x2) + w6 f2 (w2 x1 + w4 x2) ).

As funções fi são do tiposigmóide logística.

Projeto da disciplina

ATENÇÃO!

Se a quantidade de pesos for pequena demais, pode haver underfitting.A função implementada não tem complexidade suficiente para resolver o problema

abordado.

Se a quantidade de pesos for grande demais, pode haver overfitting.A função implementada tem complexidade demais para o problema, sendo capaz de

modelar detalhes demais dos dados de treinamento.

Projeto da disciplina

A taxa de aprendizado a ser utilizada

Usando taxa de aprendizado muito baixa, cada iteração faz um ajuste muito pequeno nos pesos (passo muito pequeno). Pode precisar de muitas iterações para convergir para o ponto de mínimo desejado

na superfície de busca.

Usando taxa de aprendizado muito alta, cada iteração faz um ajuste muito grande nos pesos (passo muito grande). Pode causar oscilações em torno de um ponto de mínimo.

Projeto da disciplina

Para ambos os tipos de problema, será usado o erro SSE (sum squared error - soma dos erros quadráticos).

Ex.:Saídas da rede Saídas desejadas

Padrão 1 ... N 1 ... N Nodo 1 0.98 ... 0.12 1.00 ... 0.00Nodo 2 0.02 ... 0.96 0.00 ... 1.00

Soma dos erros quadráticos (SSE): SSE = (0.98 – 1.00)2 + ... + (0.12 – 0.00)2 +

(0.02 – 0.00)2 + ... + (0.96 – 1.00)2.

Medidas de Erro

Projeto da disciplina

Medidas de Erro

Para problemas de classificação, também será calculado o erro de classificação (neste projeto, só para o conjunto de teste).

Ex.:Saídas da rede Saídas

desejadasPadrão 1 ... N 1 ... N Nodo 1 0.98 ... 0.12 1.00 ... 0.00Nodo 2 0.02 ... 0.96 0.00 ... 1.00Classe 1 ... 2 1 ... 2

Erro Classif. = 100 x Quant. de padrões classificados erradamente Quant. total de padrões

Regra de classificação winner-takes-all: O neurônio de saída que apresentar o maior valor de saída

determina a classe do padrão.

Projeto da disciplina

Será usado o algoritmo Backpropagation padrão

É um algoritmo de gradiente descendente, ou seja, utiliza informações de derivada.Por isso, as funções de ativação devem ser contínuas e diferenciáveis (é o caso da

sigmóide logística).

Objetivo: Fazer “ajuste de pesos”, ou seja, escolher os pesos que geram as saídas mais corretas possíveis

(menor erro) de forma iterativa.

Idéia geral: A cada iteração, obter um erro cada vez menor para os dados de treinamento.

Cuidado: Não permitir que a rede aprenda detalhes demais do conjunto de treinamento (overfitting).

Projeto da disciplina

Iteração

SSE

Iteração

Conjunto detreinamento

Conjunto devalidação

(neste exemplo,observado a cada

3 iterações)

Erro mínimo detreinamento

Parada

Erro alto para dados não usados no

treinamento (não generaliza bem)

Projeto da disciplina

É recomendável que o treinamento seja interrompido quando o erro no conjunto de validação atingir um mínimo.

A partir deste ponto, supõe-se que a rede só aprenderia detalhes irrelevantes do conjunto de treinamento.

O erro para dados de treinamento seria cada vez menor, mas o erro para dados novos (validação) seria cada vez mais alto.

Neste projeto, será usado o seguinte critério de parada: Interromper o treinamento quando o erro de validação subir por 5 iterações

consecutivas. É o critério implementado no Matlab (parâmetro “max_fail = 5”).

Parada por Erro Mínimo de Validação

Projeto da disciplina

– Vão escolher:

• 3 quantidades de neurônios escondidos,• 3 taxas de aprendizado.

– Temos um total de 9 configurações a serem testadas.– Para cada configuração, será realizado um treinamento.– A melhor configuração a ser escolhida é a de menor erro de teste.

O que vocês vão fazer?

Config. SSE de Treinamento SSE de Teste 1 2.13 3.452 1.44 0.71... ... ...9 4.43 5.18

Projeto da disciplina

– Para a melhor configuração escolhida, devem ser feitos 10 treinamentos com diferentes inicializações de pesos.

– O objetivo é verificar como a melhor rede se comporta quando variamos os pesos iniciais.

Config SSE de Treinamento SSE de validação SSE de Teste Erro de Classif icação

1 2.4 2.13 3.45 0.22 5.9 1.44 0.71 0.4... ... ... ... 1.610 2.64 4.43 5.18 2.0

Projeto da disciplina

Para começar...

Projeto da disciplina

Atenção, POR FAVOR!!

Projeto da disciplina

384 linhas

Treinamento.txt

192 linhas

Teste.txt

192 linhas

Validacao.txt

1. Abra o MatLab2. Em "Arquivo", selecione a opção 'Open...';3. Selecione o Script

ATENÇÃO

Na pasta onde estiver o script deverá estar os txt Treinamento, validação e teste.

4. Modifique o Scrip para que ele se adéqüe ao seu caso.

5. Rode o script

6. Na janela resultante, clique em Performace e tire um print do gráfico.

7. Na janela principal aparecerá os resultados.

• Monitores– Alice Lucena – alco@cin.ufpe.br

Dúvidas