Computação Evolutiva e Cognitiva - lobonett.com.br · visão do elemento EPUSP-PSI Concurso de Livre Docência Neurocomputação Evolutiva e Sistemas Adaptativos Computação Evolutiva

Computação Evolutiva e CognitivaSimulação de Vida Artificial e Cognição

PROVA DIDÁTICATema 01

Neurônios

EPUSP-PSI Concurso de Livre DocênciaNeurocomputação Evolutiva e Sistemas AdaptativosComputação Evolutiva e Cognitiva – simulação em vida artificial e cognição

Out. 2007

Prof. Dr. Marcio Lobo Netto

ESCOLA POLITÉCNICA DA USPEngenharia de Sistemas Eletrônicos

EspecialidadeNeurocomputação Evolutiva e Sistemas Adaptativos


1

Uma impressionante

diversidade de tipos

de neurônios é

responsável nela

PROVA DIDÁTICATema 01: Neurônios


Out. 2007


responsável nela

riqueza dos circuitos

neurais

2

Neurônios: visão do elemento (artificial e biológico)– Potenciais de ação, estruturas dendríticas e sinápticas– Potencial de ação e sua interpretação freqüencial

Conceitos em neurofisiologia e sua relação com conceitos em redes de neurônios artificiais

Processamento neural e neurodinâmica

PROVA DIDÁTICATema 01: Neurônios


Out. 2007


Processamento neural e neurodinâmica

Motivações biológicas para cada classe de modelos

Neurônios biológicos e sua relação com neurônios artificiais

----------------Modelos neurais: sigmoidais, pulsados, com bifurcação

3

Neurônios


Out. 2007

Prof. Dr. Marcio Lobo Netto4

Neurônios Artificiais

Neurônio artificial

Neurônios Artificiais: visão do elemento

w1

biase1

e v y


Out. 2007


∑ ψw2

w3Ψ

y

v =

e1w1 + e2w2 + e3w3 + b

e2

e3

v y

Neurônio Artificial

– Diversidade de estruturas topológicas

– Diversidade de arquiteturas de circuitos neurais



Out. 2007


Neurônio Rede neural

Malha deRealimentação

6

Malha Interna

Malha Direta

Vetor Saída

Vetor Entrada

Sinapses

Pesos

função moduladora

Rede Dendrital

Topologia

função combinatória

Núcleo

Computação

função integradoranão linear

Axônio

Propagação

função comunicadora

Neurônio Artificial

– Melhor compreensão requer estudo do neurônio biológico

– Esta aula tem seu foco no neurônio biológico para dar



Out. 2007


– Esta aula tem seu foco no neurônio biológico para dar sustentação ao desenvolvimento de neurônios artificiais e suas redes

7

O que se tem

– Redes neurais em diversos níveis de complexidade com neurônios artificiais elementares

– Redes neurais com neurônios artificiais mais refinados



Out. 2007


– Redes neurais com neurônios artificiais mais refinados

• Blue Gene @ Lausanne

– Simulação do neo-cortex avaliando processosbio-químicos dos neurônios envolvidos

– Estudo de neurônio isolado

• Biofísica da computação

8

Neurônios


Out. 2007


Neurônios Biológicos

Neurônio Biológico

– Diversidade e complexidade de estruturas topológicas

Neurônios Biológicos: visão do elemento


Out. 2007


Redes de Neurônios Biológicos

– Diversidade e complexidadede arquiteturas de circuitosneurais



Out. 2007


Descrição estrutural do elemento

– Conexões Sinápticas

– Dendritos

– Núcleo



Out. 2007


– Núcleo

– Axônio

12

Descrição funcional do elemento

– Junções Sinápticas

• Neurotransmissores

• Primeiro mensageiro => alteração bioquímica de



Out. 2007


• Primeiro mensageiro => alteração bioquímica de neuroreceptores

– Conseqüente alteração no índice de aceitação/rejeição

– Mecanismo de aprendizagem» Temporário

» Dependente da freqüência e intensidade do sinal (Hebbiano)

13


– Dendritos• Comprimento morfoeletrotônico

– Alteração de características bioquímicas / elétricas

– Em decorrência do que é alterada a conformação



Out. 2007


– Em decorrência do que é alterada a conformação espaço-tempo

» alteração na composição de sinais e conseqüentemente na função do neurônio

– Modificada topologicamente a árvore de dendritos e assim sua função combinatória

» No encaminhamento dos sinais ao núcleo

14


– Núcleo

• Integração dos sinais provenientes dos dendritos

• Função não linear (sigmoide)



Out. 2007


• Função não linear (sigmoide)

• Segundo mensageiro => alteração genética

– Ao ser recebido pelo núcleo desencadeia um processo em decorrência do qual há modificação na junção sináptica nos dendritos

» adição (reforço) ou remoção (atenuação) de canais

– Memorização de caráter permanente

15


– Axônio

• Potencial de ação

• Propagação de trens de pulsos



Out. 2007


• Propagação de trens de pulsos

– Codificação em freqüência

– Diferentes padrões» Pulsos isolados

» Trens de pulso

» Em diferentes combinações (freqüências)

16

Biofísica da


Out. 2007


Biofísica da Computação

Neurônios e suas conexões

– Junções sinápticas

– Topologias

Conceitos em neurofisiologia: relação com conceitos em redes de neurônios artificiais


Out. 2007


Membrana celular

– Interface bioquímica – elétrica da sinalização neural

– Geração de sinais elétricos a partir de neurotransmissores (químicos)

Biofísica da Computação Neurônio biológico – membrana


Out. 2007


neurotransmissores (químicos)

– Propagação de sinais elétricos

– Geração de sinais químicos a partir de pulsos elétricos

19

Membrana do neurônio

– Relação bioquímica – elétrica

– Membrana com canais iônicos

• Desequilíbrios entre íons e conseqüente propagação de sinal



Out. 2007


• Desequilíbrios entre íons e conseqüente propagação de sinal

– corrente elétrica ou pulsos de tensão

• Modelo da membrana

20

Junção sináptica do neurônio

– Modelo da junção pós-sináptica

• Modelo elétrico equivalente

• Geração do sinal elétrico



Out. 2007


• Geração do sinal elétrico

21

Propagação de sinais

– Teoria de cabos lineares

– Modelo elétrico

• Resposta ao impulso



Out. 2007


• Resposta ao impulso

22

Junção sináptica

Biofísica da Computação Neurônio biológico – sinapses


Out. 2007


Junção sináptica



Out. 2007



– Relação bioquímica – elétrica

– Axônio (pré-sináptica)• Chegada do potencial de ação dispara troca iônicas (Ca+2)

que acabam por abrir as vesículas liberando neuro-



Out. 2007


que acabam por abrir as vesículas liberando neuro-transmissores

– Dendrito (pós-sináptica)• Neuro-receptores recebem os neuro-transmissores em

decorrência do que se abrem canais ionicos

• Fluxo de ions (Na+) geram sinal que se propaga pelo dendrito em direção ao núcleo

25


– Modelo da junção

• Modelo biológico



Out. 2007


Junção pré-sináptica (axônio)

– Neurotransmissores

• Produzidos em decorrência da chegada dos potenciais de ação à terminação sináptica (axônial)



Out. 2007


– Refletem o padrão deste sinal

• Diferentes para diferentes tipos de neurônio

– Assinatura do tipo de neurônio que o produziu

27

Junção pós-sináptica (dendrito)

– Neuroreceptores

• Ativados pela chegada dos neurotransmissores à terminação sináptica (dendrítica)



Out. 2007


– Refletem o padrão deste sinal

• Diferentes para diferentes tipos de neurotransmissores

– Casamento entre neurônios

28

Junção sináptica

– Comportamento probabilístico

– Peso sináptico: R• Composição da quantidade de

neuro-transmissores liberados e



Out. 2007


neuro-transmissores liberados e de sua real atuação no receptor

• R = npq

– n: número de quantal sites que podem ser liberados

– p: probabilidade de liberação (dependente do potencial de ação)

– q: probabilidade de efeito no receptor

29

Junção sináptica

– Diversidade de efeitos

• Excitatórios / Inibitórios

– Diversidade de pares neurotransmissores-receptores



Out. 2007


– Diversidade de pares neurotransmissores-receptores

30

Junção sináptica

– Mecanismos ionotrópicos• Já mencionados

• Primeiro mensageiro

– Dizem respeito aos efeitos locais da sinalização



Out. 2007


– Dizem respeito aos efeitos locais da sinalização

– Pós-sináptico:» Chegada dos neurotransmissores produz correntes que fluem

pelo dendrito em direção ao corpo celular

» Podem desencadear modificações estruturais locais

• Mecanismo de memorização de curto/médio prazo

– Alteração nos canais iônicos e vesículas

31

Junção sináptica

– Mecanismos metabotrópicos• Segundo mensageiro

– Sinalização intracelular

– Informação propagada até o núcleo da célula



Out. 2007


– Informação propagada até o núcleo da célula

– Em decorrência do que há sinalização reversa para síntese protéica para alteração da conformação da junção sináptica

» Inclusão ou remoção

• Mecanismo de memorização de longo prazo

– Alteração estrutural do neurônio » conformação topológica

» Perfil de canais e vesículas na sinapse

32

Dendrito

– Árvore dendrital

• Estrutura define a composição de sinais de entrada que atinge o núcleo

Biofísica da Computação Neurônio biológico – dendritos


Out. 2007


– Modulação de comprimento morfoeletrotônico

• Alteração de propriedades bio-elétricas dos ramos da árvore dendrital permitindo sua modificação topológica

– Através da alteração diferenciada da velocidade de propagação entre os ramos da árvore dendrital

33

Árvores dendríticas passivas

– Diversidade de estruturas (topologias)



Out. 2007



– Transformações morfoeletrotônicas

• Modificações topológicas em função de ajustes espaço-temporais



Out. 2007


– Variações nos tempos de propagação

35



• Alterações topológicas



Out. 2007




• Com conseqüentes efeitos nos atrasos de propagação



Out. 2007


Interações sinápticas numa árvore dendrítica passiva

– Interações sinápticas

• Inibitórias e excitatórias

– Geral



Out. 2007


– Geral

– Detalhe

• Diferentes conformações topológicas levam a diferentesoperações lógicas (composições)

38

Interações sinápticas numa árvore dendrítica passiva

– Interações sinápticas

• Inibitórias e excitatórias

• Modelo lógico equivalente



Out. 2007


• Modelo lógico equivalente

39

Corpo / Núcleo

– Processamento integrativo

• Ao ultrapassar um limiar, a composição dos sinais de entrada dispara pulsos transmitidos pelo axônio (potenciais de ação)

Biofísica da Computação Neurônio biológico – corpo


Out. 2007


– Alteração genética (memória)

• Segundo mensageiro

– AMP + ??? VERIFICAR

40

Axônio

– Potencial de ação e codificação em freqüencia

Biofísica da Computação Neurônio biológico – axônio


Out. 2007


Modelo de Hodgkin-Huxley para geração do potencial de ação

– Equação do sinal propagado pelo axônio

– Segundo o seguinte modelo elétrico



Out. 2007


– Segundo o seguinte modelo elétrico

42

Potencial de ação

– Sinalização: pulso propagando no axônio

– Diferentes padrões de disparo em



Out. 2007


– Diferentes padrões de disparo emfunção da corrente integrada pelonúcleo

– Modelo de Hodgkin-Huxley parageração do potencial de ação

43

Informação codificada em freqüência

– Trens de pulsos (burst mode)

• a quantidade de pulsos num determinado período influenciaa liberação de neurotransmissores

Potencial de ação interpretação freqüencial


Out. 2007


a liberação de neurotransmissores com o que se reforça mais ou menos o receptor do neurônio seguinte

44

Caráter estocástico do potencial de ação

– Disparo contínuo com padrão estocástico

• Distribuição de Poison (ruído branco)

– Alterações deste padrão

Potencial de ação interpretação freqüencial


Out. 2007


– Alterações deste padrãocarregam consigo a informação transmitida pelo axônio

45

Plasticidade sináptica

– Equilíbrio homeostático

• Do neurônio no meio em que se encontra

• Define seu ponto de operação

Plasticidade NeuralAuto equilíbrio bioquímico da célula neural


Out. 2007


• Define seu ponto de operação

– Potenciação de longo e curto prazo

46

Serve ao propósito de evitar saturações do sistema

– Mecanismo de auto-regulação

• Uma rede alimentadaa diante tende a ter suas saídas saturadas



Out. 2007


suas saídas saturadasou anuladas

47

Diferentes mecanismos e modelos para a plasticidade sináptica

– Intrínseca

– Por escalabilidade



Out. 2007


– Por escalabilidade

– Por reforço

48


– Intrínseca• Ocorre devido a modificações na própria estrutura do neurônio

• Possível explicação: aumento dos canais de cálcio no corpo celular



Out. 2007


celular

• Realimentação negativa

– Aumento de sensibilidadequando há redução na atividade

– Diminuição da sensibilidadequando há aumento da atividade

49


– Intrínseca

• Potenciação de longo prazo (LTP)


FALTA REVISAR


Out. 2007



– Escalabilidade sináptica

• Manifestada como aumento(multiplicação) ou diminuição(divisão) da eficácia da junção



Out. 2007


(divisão) da eficácia da junção

• Proporcionalidade no aumento ou redução desta eficácia

51


– Escalabilidade sináptica

• Não se sabe ao certo o que ocorre

– Se variação no número de canais



Out. 2007


– Se variação no número de canais

– Se aumento na difusão do transmissor

– Se aumento na eficácia do acoplamento

52


– Reforço sináptico

• Dependente do intervalo de pulsos

• O tempo entre a chegada de um pulso



Out. 2007


• O tempo entre a chegada de um pulso em uma sinapse e o potencial de ação na saída do neurônio reforça (LTP) ou enfraquece (LTD) a conexão sináptica

53


– Reforço sináptico


FALTA REVISAR


Out. 2007



– Falta identificar sequal o domínio espacial deste



Out. 2007


processo noneurônio

• Se ocorre localmente

• Se ocorre globalmente

55

Modelo neural – integração e disparo

– Padrão de disparo

– Fig 14.1

Comportamento neurônio biológicodisparo

FALTA REVISAR


Out. 2007


Modelo neural – integração e disparo

– Modelo estocástico• Distribuição de Poison (aleatoriedade no padrão)

– Dispara continuamente quando em repouso (ruído branco)


FALTA REVISAR


Out. 2007


branco)

– Dispara com certos padrões quando excitado

– Fig 15.1 e 15.2

– Diversidade de modos Fig 15.5

57

Neurônios e padrões de disparo

– Fig 16.2


FALTA REVISAR


Out. 2007


Motivação


Out. 2007


Motivação Biológica

Redes de neurônios servem como

– Classificadores

– Estimadores

– Reconhecedores

Motivações biológicas para cada classe de modelos


Out. 2007


– Reconhecedores

– Identificadores

– Em todos os casos está presente o elemento adaptação e aprendizagem

60

Relações entre


Out. 2007


Relações entre Neurônios Biológicos e Artificiais

Neurônio biológico

– Sinapse: nível de aceitação ou inibição

• Elemento de registro do aprendizado (memória)


Relações entreNeurônios Biológicos e Artificiais


Out. 2007



– Sinapse: peso associado à conexão

• Elemento de registro do aprendizado (memória)

62


– Dendrito: conformação morfoeletrotonica

• Elemento de ajuste da função neuronal (processamento)




Out. 2007



– Dendrito: sem equivalência nos modelos tradicionais

63

Neurônio biológico– Núcleo: segundo mensageiro

• Elemento de registro permanente do aprendizado (memória)

– Núcleo: função de integração do sinal processado e avaliação de limiar

– Núcleo: disparo de trem de pulsos



Out. 2007


– Núcleo: disparo de trem de pulsosNeurônio artificial

– Núcleo: segundo mensageiro – sem equivalência• Elemento de registro permanente do aprendizado (memória)

– Núcleo: função de integração (somatória) e avaliação de limiar (sigmoide) para disparo do sinal de saída

• Elemento

– Núcleo: disparo de trem de pulsos• Usado em arquiteturas de redes pulsadas

64


– Axônio: propagação do sinal para o próximo neurônio (cabo coaxial)

• Elemento de propagação de sinal (cabo coaxial)

• Propriedades de cabo



Out. 2007


• Propriedades de cabo


– Axônio: encaminhamento do sinal para o próximo neurônio

• Conexão direta (sem considerar propriedades do tipo das existentes em cabos)

65

Conclusão


Out. 2007


Conclusão

Neurônios biológicos são dispositivos de alta complexidade e diversidade

Redes neurais naturais são também extremamente

Conclusão


Out. 2007


Redes neurais naturais são também extremamente complexas e diversificadas

67

O sucessivo aprimoramento no conhecimento de ambos tem propiciado o aprimoramento das redes neurais artificiais

Conclusão


Out. 2007


E modelos artificiais que pretendam simular melhor o SNC deverão incorporar ainda muitas das especificidades dos elementos e arquiteturas naturais

68

Por fim, as redes neurais artificiais levam este nome por alguma semelhança com as naturais, mas sua efetiva utilização tem sido para implementar modelos matemáticos que servem em áreas em que as redes naturais agem com primazia

Conclusão


Out. 2007


naturais agem com primazia

– Identificadores

– Classificadores

E tem sido eficientes (de modo diferenciado) na realização destas tarefas

69

Obrigado


Out. 2007


Extras


Out. 2007


Modelos sigmoidais

Modelos neurais: sigmoidais, pulsados, com bifurcação


Out. 2007


Modelos pulsados



Out. 2007


Modelos com bifurcação



Out. 2007


Documents

Computação Evolutiva e Cognitiva - lobonett.com.br · visão do elemento EPUSP-PSI Concurso de Livre Docência Neurocomputação Evolutiva e Sistemas Adaptativos Computação Evolutiva