Rede Neural de BackpropagationRede Neural de

Backpropagation

1

• Seja tk a k-th saída alvo (desejada) e zk a k-th saída computada para k = 1, …, c

• Sejam w os pesos da rede• Seja net a soma ponderada de entradas de um neurônio• Erro de treinamento:

• A minimização do erro só pode ser feita atuando sobre os pesos das conexões da rede

2

c

1k

22kk zt

2

1)zt(

2

1)w(J

Aprendizagem

• Seja tk a k-th saída alvo (desejada) e zk a k-th saída computada para k = 1, …, c

• Sejam w os pesos da rede• Seja net a soma ponderada de entradas de um neurônio

3

Notação para a dedução

d

i

d

i

tjjiijjiij xwwxwwxnet

1 00 .

c)1,...,(k )( 1

0

k

d

ijijik netfwxwfz

• Para minimizar o erro é preciso igualar a zero sua derivada em relação aos pesos

• Erro é função de net e net é função dos pesos• Derivando parcialmente (camada de saída)

• k mostra a variação do erro com a unidade (neurônio)

4

kj

kk

kj

k

kkj w

net

w

net

net

J

w

J

.

kk net

J

Minimização do erro

• A minimização do erro só pode ser feita atuando sobre os pesos das conexões da rede

• Depois de cada computação de saída de ordem m o erro de treinamento deve ser minimizando modificando esse pesos para a computação de ordem m+1

w(m +1) = w(m) + w(m)• Incremento de peso para redução do erro de treinamento,

que deve ser minimizado• é o coeficiente de aprendizagem

5

c

1k

22kk zt

2

1)zt(

2

1)w(J

kiki w

Jw

Atualização dos pesos das conexões

• Erro é função da saída zk e zk é função de net

• como netk = wkt.y

• A regra de aprendizagem ou atualização de pesos entre a camada de saída e a camada oculta é

wkj = kyj = (tk – zk) f’ (netk)yj

6

jkj

k yw

net

Conexões com a camada de saída

jkkj

kk

kj

k

kkjkj y

w

net

w

net

net

J

w

Jw

.

)´()()(

)(

)()(2

1 2

kkkk

kkk

k

kkkkk

kkk

netfztnet

netfzt

net

zztzt

netnet

J

A regra de aprendizagem ou atualização de pesos entre a camada oculta e a camada de entrada é semelhante

k mostra a variação do erro com o peso da conexão

7

ji

j

j

j

jji w

net

net

y

y

J

w

J

..

Conexões com a camada oculta

c

kkkjjj wnetf

1

)('

ijkkjjiji xnetfwxw

j

)('

Resumo da atualização de pesos

• Mas • Para os pesos entre a camada de saída e a camada

oculta o incremento é• wkj = kyj = (tk – zk) f’ (netk)yj = (tk – zk) f (netk) (1- f (netk))yj

• Para os pesos entre a camada oculta e a camada de entrada o incremento é

8

ijkkjjiji xnetfwxw

j

)('

))(1(*)( kk netfnetf

ijjkkjjiji xnetfnetfwxw )(1)(

Derivadas das funções de transferência

• Para a função logística

• Para a função tangente hiperbólicaf(y) = tanh(y)

9

211

1*

1

11

1

1x

x

xxxe

e

eeedx

d

xexf

1

1)(

))(1(*)()´()(

kkkk

k netfnetfnetfnet

netf

yyhy

dy

yd2

22

cosh

1sectanh1

)(tanh(

10

1 2

21

0

1

Camada de entrada 1

Camada oculta 2

Camada de saída 3

bias

w2(0,1)

w3(0,1)

w2(0,2)

w2(2,2)

w2(2,1)

w2(1,1)

w2(1,2)

w3(2,1)

w3(1,1)

0,0 0,0

Exemplo de backpropagation XOR

• Seja net a soma ponderada de entradas de um neurônio• Sejam as camadas numeradas a partir de 1 (entrada)• xc-1(n) entrada no neurônio n da camada c

• wk(i,j) peso da conexão entre o neurônio i da camada k-1 e o neurônio j da camada k

• k(n) parcela a corrigir do nó n na camada k

• w2(0,1) = *x1(0)*2(1) atualização de pesos

• Para conexão com a camada de saída• 3(1) = x3(1)*(1 - x3(1))*(d - x3(1))

• Para conexão com camada oculta• 2(1) = x2(1)*(1 - x2(1))*(w3(1,1)*3(1)+ w3(1,1)*3(2))

11

Notação para o exemplo

Camada oculta Neurônio 1: w2(0,1) = 0.341232 w2(1,1) = 0.129952 w2(2,1) =-0.923123 Camada oculta Neurônio 2: w2(0,2) =-0.115223 w2(1,2) = 0.570345 w2(2,2) =-0.328932 Camada de saía Neurônio 1: w3(0,1) =-0.993423 w3(1,1) = 0.164732 w3(2,1) = 0.752621

Entrada inicialx1(0) = 1 (bias)x1(1) = 0 x1(2) = 0

12

Exemplo – Inicialização

• Para a camada oculta os resultados da função somadora sãoNeurônio 1: (1 * 0.341232) + (0 * 0.129952) + (0 * -0.923123) = 0.341232Neurônio 2: (1 *-0.115223) + (0 * 0.570345) + (0 * -0.328932) = -0.115223• Aplicando a função de ativação logística temosx2(1) = 1/(1+e^(-0.341232)) = 0.584490

x2(2) = 1/(1+e^( 0.115223)) = 0.471226

13

Exemplo – Treinamento Forward

Camada oculta Neurônio 1: w2(0,1) = 0.341232 w2(1,1) = 0.129952 w2(2,1) =-0.923123 Camada oculta Neurônio 2: w2(0,2) =-0.115223 w2(1,2) = 0.570345 w2(2,2) =-0.328932

A entrada para camada de saída será x2(0) = 1 (bias)

x2(1) = 0.584490

x2(2) = 0.471226

Para a camada de saída o resultado da função somadora é Neurônio 1: (1 *-0.993423) + (0.584490 * 0.164732) + (0.471226 * 0.752621)

= -0.542484Aplicando a função de ativação logística temosx3(1) = 1/(1+e^(0.542484)) = 0.367610

14

Exemplo – Treinamento Forward (2)

Camada de saía Neurônio 1: w3(0,1) =-0.993423 w3(1,1) = 0.164732 w3(2,1) = 0.752621

O resultado esperado era 0 logo o erro é 0.367610. A diferença a corrigir é dada por No caso em tela 3(1) = x3(1)*(1 - x3(1))*(d - x3(1))

3(1) = x3(1)*(1 - x3(1))*(d - x3(1)) =

= 0.367610 * (1 - 0.367610)(0 - 0.367610) = =-0.085459

x3(1) = 0.367610

15

Exemplo – Treinamento Forward (3)

Para os neurônios da camada oculta as diferenças a corrigir sãow3(1,1)3(1) é a diferença a corrigir neurônio 1w3(2,1)3(1) é a diferença a corrigir neurônio 2 2(1) = x2(1)*(1 - x2(1))*w3(1,1)*3(1) = 0.584490 * (1 - 0.584490)*(0.164732)*(-0.085459) = -0.00341902(2) = x2(2)*(1 - x2(2))*w3(1,1)*3(1)2(2) = 0.471226 * (1 - 0.471226)*(0.752621)*(-0.085459) = -0.0160263

x2(0) = 1 (bias)

x2(1) = 0.584490

x2(2) = 0.471226

3(1) =-0.085459

w3(1,1) = 0.164732 w3(2,1) = 0.752621

16

Exemplo – Treinamento Backward (1)

• A atualização dos pesos das conexões é dada por sendo o coeficiente de aprendizagem um amortecedor empírico, no caso com valor igual a 0,5.

17

Exemplo – Treinamento Backward (2)

w2(0,1) = *x1(0)*2(1) = 0.5 * 1 * -0.0034190 = -0.017095

w2(1,1) = *x1(1)*2(1) = 0.5 * 0 * -0.0034190 = 0

w2(2,1) = *x1(2)*2(1) = = 0.5 * 0 * -0.0034190 0

w2(0,2) = *x1(0)*2(2) = 0.5 * 1 * -0.0160263 = -0.0080132

w2(1,2) = *x1(1)*2(2) = 0.5 * 0 * -0.0160263 = 0

w2(2,2) = *x1(2)*2(2) = 0.5 * 0 * -0.0160263 = 0

w3(0,1) = *x2(0)*3(1) = 0.5 * 1 * -0.085459 = -0.042730

w3(1,1) = *x2(0)*3(1) = 0.5 * 0.584490 * -0.085459 = -0.024975

w3(2,1) = *x2(0)*3(1) = 0.5 * 0.471226 * -0.085459 = -0.020135

18

Exemplo – Treinamento Backward (3)

• Valores atualizados dos pesos das conexões w2(0,1) = 0.341232 + -0.017095 = 0,3395225w2(1,1) = 0.129952 + 0 = 0.129952w2(2,1) =-0.923123 + 0 =-0.923123w2(0,2) =-0.115223 + = 0,10720985w2(1,2) = 0.570345 + 0 = 0.570345w2(2,2) =-0.328932 + 0 =-0.328932w3(0,1) =-0.993423 + -0.042730 = 0,9506935w3(1,1) = 0.164732 + -0.024975 = 0,139757035w3(2,1) = 0.752621 + -0.020135 = 0,732485749

19

Exemplo – Atualização dos pesos