93
Inteligência Computacional Mini-curso Tópicos em Inteligência Computacional Prof. Dr. Marcos Eduardo Valle Departamento de Matemática Centro de Ciências Exatas Universidade Estadual de Londrina XXIV Semana da Matemática Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 1 / 75

Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Embed Size (px)

Citation preview

Page 1: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Inteligência Computacional Mini-curso

Tópicos em Inteligência Computacional

Prof. Dr. Marcos Eduardo Valle

Departamento de MatemáticaCentro de Ciências Exatas

Universidade Estadual de Londrina

XXIV Semana da Matemática

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 1 / 75

Page 2: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Inteligência Computacional Introdução

Inteligência computacional = inteligência artificial?

Inteligência é (entre outras coisas):

Capacidade de resolver problemas;Engenhosidade e eficácia no exercício de uma atividade;

Exemplo - Secretária Eletrônica Inteligente!

Atender o telefone e perguntar:– Em que posso ajudar?Se a resposta for: “Gostaria de falar com o prof. Marcos”.Pergunte:– Quem gostaria.Se a resposta for: “É o chefe dele”.Responder:– Infelizmente ele não se encontra. Por favor, ligue mais tarde.

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 2 / 75

Page 3: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Inteligência Computacional Introdução

Para quem liga, o sistema parece inteligente.

Inteligência artificial

Sistema (secretária, computador) que resolve problemas de formaengenhosa e eficaz.

Na verdade, alguém inteligente pensou em todas as possibilidades eprojetou algo que “parece” inteligente!

Inteligência Computacional

Estuda técnicas naturais do homem – ou da natureza – de resolverproblemas complexos.

ConclusãoInteligência computacional ⊆ inteligência artificial.

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 3 / 75

Page 4: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Inteligência Computacional Introdução

Inteligência Computacional

Termo surgiu no início da década de 1990.

Congresso Mundial de Inteligência Computacional (WCCI):

1994 - Orlando, Florida, USA.1998 - Anchorage, Alaska, USA.2002 - Honolulu, Hawaii, USA.2006 - Vancouver, Canada.2008 - Hong Kong, China.2010 - Barcelona, Espanha.

1 Redes neurais artificiais – inspirados no cérebro humano.2 Conjuntos nebulosos – inspirados na linguagem natural.3 Computação evolutiva – inspirados na teoria da evolução.

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 4 / 75

Page 5: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Inteligência Computacional Introdução

Organização do mini-curso1 Redes Neurais Artificiais

Introdução,Primeiros modelos de redes neurais artificiais,Perceptrons e suas limitações,Rede de Hopfield,Problema do caixeiro viajante.

2 Computação evolutivaIntrodução,O problema do caixeiro viajante – continuação.Principais linhas de pesquisa em computação evolutiva.

3 Teoria dos Conjuntos NebulososIntrodução,Definição,Aplicação de conjuntos nebulosos.

4 Considerações Finais.

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 5 / 75

Page 6: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Inteligência Computacional Introdução

Redes Neurais Artificiais

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 6 / 75

Page 7: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Introdução

O que é uma rede neural?

Uma rede neural éum conjunto de neurônios interconectados.

Neurônios sãoas unidades básicas de processamento do cérebro.

Neurônio artificial éum modelo matemático inspirado do neurônio biológico.

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 7 / 75

Page 8: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Introdução

Modelo Artificial de um Neurônio

Em 1943...

Warren McCulloch Walter Pitts

Biólogo Matemático

apresentaram o primeiro modelo matemático de um neurônio.Nascem as redes neurais artificiais!

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 8 / 75

Page 9: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Introdução

Da biologia a matemática...

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 9 / 75

Page 10: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Introdução

Da biologia a matemática...

x1

w1NNNNNNNNNNNN

&&NNNNNNNNNNN

θ

��

x2

w2RRRRRRRRRRR

))RRRRRRRRRR...

xj wj //WVUTPQRS∑φ(·) // y

...

xn

wnlllllllllll

55llllllllll

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 9 / 75

Page 11: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Introdução

Um neurônio em termos matemáticos...

Equação do Neurônio:

y = φ

n∑j=1

wj · xj − θ

= φ(

wT x− θ)

,

onde φ é a função de Heaviside:

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 10 / 75

Page 12: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Introdução

Neurônios, paredes da casa e algumas analogias...

Os neurônios representam a base do cérebro, como os tijolos numaconstrução.

A forma como os neurônios são ligados, define as paredes.

As conexões sinapticas são os móveis.

A experiência organiza os móveis da nossa casa cerebral.

Durante a vida, conexões sinápticas são criadas e destruídas,formando um!

Conclusão:As conexões sinápticas são os verdadeiros responsáveis peloconhecimento, racionício e memória no cérebro.

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 11 / 75

Page 13: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Introdução

Como construir uma rede neural artificial:1 Modelo do neurônio,2 Arquitetura da rede,3 Especificar como determinar os pesos sinápticos.

Rede neural simples...Um único neurônio de McCulloch-Pitts!!!

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 12 / 75

Page 14: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Introdução

Como modificar as conexões sinápticas?

Postulado de Hebb (The Organization of Behavior – 1949)

Se dois neurônios em ambos os lados de umasinapse são ativados simultaneamente, então aforça daquela sinapse é aumentada.

Em termos matemáticos...

∆wj = xj · y ⇔ wj = wj + xj · y .

Infelizmente, esse resultado não ajudou muito na época...

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 13 / 75

Page 15: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Introdução

Problema de classificação...

Formulação de um problema de classificação:

Dada uma classes A ⊆ Rn, determinar uma função fA : Rn → {0, 1} talque fA(x) = 1 se e somente se x ∈ Rn.

Podemos determinar uma rede neural com um único neurônio queatua como um classificador?

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 14 / 75

Page 16: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Introdução

Problema de classificação...

Sim, se os dados forem linearmente separáveis...

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 15 / 75

Page 17: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Introdução

Problema de classificação...

Dado um conjunto de dados {(xξ, cξ) : ξ = 1, . . . , k}, onde cξ ∈ {0, 1}é tal que cξ = 1 ⇔ xξ ∈ A.

Como determinar os pesos sinápticos do neurônio de modo que eleresponda corretamente para um x desconhecido???

Não podemos usar o aprendizado de Hebb!!!

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 16 / 75

Page 18: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Perceptrons

Em 1958, Rosenblatt apre-sentou uma solução cha-mada Perceptron...

O perceptron foi a primeiraRNA usada para resolverum problema prático!

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 17 / 75

Page 19: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Perceptrons

O Perceptrons em termos matemáticos...

Perceptrons:Uma rede com um único neurônio de McCulloch e Pitts:

y = φ(

wT x− θ)

.

Pesos sinápticos ajustados como segue:

Dado um par (xξ, yξ), definir:

w = w + (cξ − yξ)xξ,

onde yξ é a resposta da rede quando xξ é apresentado.

Rosenblatt mostrou que o algoritmo acima converge para os pesossinápticos corretos para todo w inicial.

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 18 / 75

Page 20: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Perceptrons

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 19 / 75

Page 21: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Perceptrons

Minsky e Papert contra-atacam...

Naquela época, parecia que as RNAs resolveriam todos osproblemas...

Em 1969, Minsky e Papert publicam um livro criticando o Perceptrons.

+ =Marvin Minsky Seymour Papert Perceptrons, o livro!

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 20 / 75

Page 22: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Perceptrons

O problema do Ou-exclusivo...

O Perceptrons não conse-gue resolver o problema doOu-exclusivo.

Minsky e Papert afirmaramque vários perceptrons tam-bém não conseguiam resol-ver esse problema!

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 21 / 75

Page 23: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Perceptrons

A Era das Trevas das RNAs...

A falta de recursos tecnológicos e os argumentos de Minsky e Papert,causaram um desestímulo em pesquisas sobre RNAs.

Poucos pesquisadores permaneceram no ramo:

James Anderson Shun-ichi Amari Teuvo Kohonen

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 22 / 75

Page 24: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Rede de Hopfield

O Renascimento das RNAs...

O interesse em redes neurais voltou no ínicio anos 1980s.

Dois pesquisadores tiveram um papel importante para o“renascimento” das RNAs:

John J. Hopfield David RumelhartUniversidade de Princeton, USA Ann Arbor, USA

Prof. de Biologia Molecular (Doença de Pick)Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 23 / 75

Page 25: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Rede de Hopfield

O que Hopfield fez...

Hopfield percebeu que...

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 24 / 75

Page 26: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Rede de Hopfield

O que Hopfield fez...

Hopfield percebeu que... A união faz a força...

Um neurônio sozinho não consige resolver um problema simples, masmuitos neurônios podem resolver um problema complicado!

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 24 / 75

Page 27: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Rede de Hopfield

Uma rede neural com M neurônios em paralelo...

x1 w11XXXXX

,,XXXXX

%%KKKKKKKKKKKKKK

��333

3333

3333

3333

3333

3333

33

��...

....

....

....

....

....

....

.... © // y1

x2

22ffffffffffffw22

XXXXX,,XXXXX

��999

9999

9999

9999

9999

��111

1111

1111

1111

1111

1111

111

© // y2

......

xj

BB�������������������

<<yyyyyyyyyyyyyyy

wijXXXXX

,,XXXXX

##HHHHHHHHHHHHHH

© // yi

......© // ym

xn

HH�������������������������������

FF

::vvvvvvvvvvvvvv wnmeeeee22eeeee

Entradas Camada deNeurônios Saídas

Em termos Matemáticos:

yi = φ(

wTi x)

,

para i = 1, . . . , M.

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 25 / 75

Page 28: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Rede de Hopfield

Uma rede neural com M neurônios em paralelo...

x1 w11XXXXX

,,XXXXX

%%KKKKKKKKKKKKKK

��333

3333

3333

3333

3333

3333

33

��...

....

....

....

....

....

....

.... © // y1

x2

22ffffffffffffw22

XXXXX,,XXXXX

��999

9999

9999

9999

9999

��111

1111

1111

1111

1111

1111

111

© // y2

......

xj

BB�������������������

<<yyyyyyyyyyyyyyy

wijXXXXX

,,XXXXX

##HHHHHHHHHHHHHH

© // yi

......© // ym

xn

HH�������������������������������

FF

::vvvvvvvvvvvvvv wnmeeeee22eeeee

Entradas Camada deNeurônios Saídas

Em termos Matemáticos:

yi = sign(

wTi x)

,

para i = 1, . . . , M.

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 25 / 75

Page 29: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Rede de Hopfield

Uma rede neural com M neurônios em paralelo...em termos matemáticos...

Usando matrizes:y = sign(Wx),

onde

y =

y1y2...

ym

, W =

w11 w12 . . . w1nw21 w22 . . . w2n

......

. . ....

wm1 wm2 . . . wmn

e x =

x1x2...

xm

.

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 26 / 75

Page 30: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Rede de Hopfield

Uma rede neural com M neurônios em paralelo...em termos matemáticos...

Usando matrizes:

x(t + 1) = sign(Wx(t)), parat = 0, 1, . . .

onde

y =

y1y2...

ym

, W =

w11 w12 . . . w1nw21 w22 . . . w2n

......

. . ....

wm1 wm2 . . . wmn

e x =

x1x2...

xm

.

Pesos sinápticos determinados usando o aprendizado de Hebb!!!

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 26 / 75

Page 31: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Rede de Hopfield

Rede de Hopfield

RNA recorrente de única camada com M neurônios totalmenteinterconectados!!!

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 27 / 75

Page 32: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Rede de Hopfield

Rede de Hopfield

RNA recorrente de única camada com M neurônios totalmenteinterconectados!!!

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 27 / 75

Page 33: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Rede de Hopfield

RNA de Hopfield em termos matemáticos...

Aprendizado da rede de Hopfield...

Dado um conjunto de vetores {x1, x2, . . . , xk} ⊆ {−1, 1}n, defina

wij =

{ ∑kξ=1 xξ

i xξj se i 6= j

0 se i = j

Como funciona a rede de Hopfield...

Dado um padrão de entrada x(0) ∈ {−1, 1}n, a rede de Hopfielddefine a sequência

x(t + 1) = sign (Wx(t)) , para t = 0, 1, 2, . . .

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 28 / 75

Page 34: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Rede de Hopfield

Observações sobre a rede de Hopfield...

Perguntas...1 A rede de Hopfield converge?2 Se converge, qual será lim x(t) quando t → +∞?

A equação

x(t + 1) = sign (Wx(t)) , para t = 0, 1, 2, . . .

define um sistema dinâmico discreto não-linear.

Construímos uma função de Liapunov ou função energia para analisarum sistema dinâmico não-linear!

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 29 / 75

Page 35: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Rede de Hopfield

A idéia da função de Liapunov...

Construir uma função que descreve a “energia” de um sistemadinâmico.

Hopfield mostrou que a seguinte função:

E(x) =12

xT WxT

é uma função de Liapunov de sua RNA.

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 30 / 75

Page 36: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Rede de Hopfield

A função Energia da rede de Hopfield...

Se W for simétrica, então a energia da RNA de Hopfield sempredecresce...

Matriz dos pesos sinápticos da rede de Hopfield:

wij =

{ ∑kξ=1 xξ

i xξj se i 6= j

0 se i = j

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 31 / 75

Page 37: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Rede de Hopfield

A função Energia da rede de Hopfield...

Se W for simétrica, então a energia da RNA de Hopfield sempredecresce...

Conclusão:A RNA de Hopfield sempre converge – rapidamente – para um pontoestacionário.

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 31 / 75

Page 38: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Rede de Hopfield

E os vetores x1, . . . , xk???

Usando técnincas estatísticas (Random Walk), Hopfield mostrou:

Se k ≤ 0.14n, então x(t) congerve para o vetor xξ mais próximo dovetor inicial x(0).

Interpretação da rede de Hopfield...

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 32 / 75

Page 39: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Rede de Hopfield

Imagens → matrizes → vetores...

Imagem: a1 matriz: A1 vetor: x1

266666666666666666664

−1 −1 . . . −1−1 −1 . . . −1−1 −1 . . . −1−1 −1 . . . −1−1 +1 . . . −1−1 −1 . . . −1−1 +1 . . . −1−1 −1 . . . −1−1 +1 . . . −1

.

.

....

. . ....

−1 −1 . . . −1−1 −1 . . . −1

377777777777777777775

2666666666666666666666666666666666666666664

−1−1−1−1−1+1−1+1+1−1+1...−1−1−1−1−1−1−1−1−1−1−1

3777777777777777777777777777777777777777775

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 33 / 75

Page 40: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Rede de Hopfield

Armazenado e recordando padrões...

Dadas várias imagens, construa vetores x1, . . . , xk ∈ {−1, 1}n.

Armazene esses vetores na rede de Hopfield usando a equação:

wij =

{ ∑kξ=1 xξ

i xξj se i 6= j

0 se i = j

Dado um vetor x ∈ {−1, 1}n que corresponde à uma versão distorcidaou incompleta de um padrão armazenado, a saída da pode ser opadrão correto!!!

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 34 / 75

Page 41: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Rede de Hopfield

Exemplo:Padrões armazenados:

Padrões apresentados como entrada:

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 35 / 75

Page 42: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Rede de Hopfield

Exemplo:Padrões armazenados:

Padrões recordados pela rede de Hopfield após um certo número deiterações:

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 35 / 75

Page 43: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Rede de Hopfield

Rede de Hopfield como um modelo de memóriaassociativa ou memória endereçada por conteúdo...

A rede de Hopfield recorda um padrão armazenado com uma versãocorrompida dele!

Por que?Porque associa o padrão armazenado à ele mesmo!!!

Logo, a rede de Hopfield é uma memória associativa!!!

O cérebro também funciona como uma memória associativa!

Podemos recordar uma música ouvindo parte dela.Podemos reconhecer a face de um amigo diante umatempestade!

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 36 / 75

Page 44: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Rede de Hopfield

Outras aplicações da rede de Hopfield

A rede de Hopfield também pode ser usada para resolver problemasde otimização.

Problema do Caixeiro Viajante (TSP – Traveling Salesman Problem)

Dado um número de cidadese o custo de viajar entre qual-quer uma das cidades, deter-minar o caminho com o me-nor custo que passa exata-mente uma vez em cada ci-dade e volta para o ponto deorigem.

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 37 / 75

Page 45: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Rede de Hopfield

Aplicação do TSP:

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 38 / 75

Page 46: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Rede de Hopfield

Dificuldades do TSP:

TSP é NP-completo!O número total de possibilidades é:

12(n − 1)!

Número de Cidades Precisão (%) Tempo de Computação100 1 2 dias100 0.75 Sete meses

1.000.000 3.5 3,5 horas

A rede de Hopfield pode ser usada para determinar uma solução doTSP!

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 39 / 75

Page 47: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Rede de Hopfield

Exemplo – 10 cidades geradas aleatoriamente!

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 40 / 75

Page 48: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Rede de Hopfield

Exemplo – 10 cidades geradas aleatoriamente!

Iteração - 5

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 40 / 75

Page 49: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Rede de Hopfield

Exemplo – 10 cidades geradas aleatoriamente!

Iteração - 6

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 40 / 75

Page 50: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Rede de Hopfield

Exemplo – 10 cidades geradas aleatoriamente!

Iteração - 7

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 40 / 75

Page 51: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Rede de Hopfield

Exemplo – 10 cidades geradas aleatoriamente!

Iteração - 8

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 40 / 75

Page 52: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Rede de Hopfield

Exemplo – 10 cidades geradas aleatoriamente!

Iteração - 10

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 40 / 75

Page 53: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Redes Neurais Artificiais Rede de Hopfield

Exemplo – 10 cidades geradas aleatoriamente!

Iteração - 29

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 40 / 75

Page 54: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Computação Evolutiva Introdução

Computação Evolutiva

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 41 / 75

Page 55: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Computação Evolutiva Introdução

Outras técnicas para resolver o TSP.

Embora a rede de Hopfield encontre uma boa solução para o TSP,existem outras técnicas mais eficientes que podem ser usadas pararesolver esse problema.

Uma boa alternativa são heurísticas que buscam um mínimo localcomo o algoritmo Lin-Kernighan.

O problema do caixeiro viajante também pode ser resolvido usandotécnicas de computação evolutiva.

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 42 / 75

Page 56: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Computação Evolutiva Problema do Caixeiro Viajante

O que é computação evolutiva?

Computação evolutiva é

um conjunto de técnicas inspiradas na teoria da evolução de Darwin.

Teoria da Evolução de Darwin – Seleção natural

Os indivíduos de uma espécie competem entre si e somente osmais aptos sobrevivem e reproduzem.Durante a reprodução, os novos indivíduos herdam ascaracterísticas dos pais, mas estão também sujeitos à mutações.

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 43 / 75

Page 57: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Computação Evolutiva Problema do Caixeiro Viajante

Como usar a teoria de Darwin para resolver o TSP?

Lembrando...O viajante deve visitar uma única vez todas as n cidades e voltar parao ponto de origem.Objetivo: Determinar o menor itinerário!

Itinerários = indivíduos!

Exemplo:

x =[7 3 1 4 5 2 10 9 6 8

].

Os indivíduos são permutações do conjunto {1, . . . , n}

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 44 / 75

Page 58: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Computação Evolutiva Problema do Caixeiro Viajante

Uma população de itinerários...

Itinerário são os indivíduos de uma população P.

Indivíduos melhores ou mais aptos!Dados x, y ∈ P, dizemos que x é melhor – ou mais apto – que y se ocusto de x é menor que o custo de y.

Seleção natural...

É feita uma seleção dos indivíduos da população e só os melhoressão selecionados.

Reprodução...

Os indivíduos mais aptos produzem filhos com características dospais.

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 45 / 75

Page 59: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Computação Evolutiva Problema do Caixeiro Viajante

A reprodução dos itinerários!

Exemplo:Se os pais selecionados forem

x =[7 3 1 4 5 2 10 9 6 8

],

y =[1 2 3 4 5 6 7 8 9 10

].

O filho recebe parte do código genético dos pais.Por exemplo, o filho pode ser

v =[7 3 1 4 5 6 2 10 9 8

].

O filho herdou [7 3 1] de x e [4 5 6] de y.

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 46 / 75

Page 60: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Computação Evolutiva Problema do Caixeiro Viajante

Mutações de itinerários e nova seleção...

Mutações!

Os códigos genéticos dos filhos podem sofrer mutações com baixasprobabilidades:

v =[7 3 1 4 5 6 7 2 10 8

].

Uma nova geração é formada... E o processo repete...

Uma nova seleção é feita e os indivíduos mais aptos reproduzem...

Experimento com 100 cidades geradas aleatoriamente...

Média 9,4 % acima do valor ótimo após 20.000 gerações!!!

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 47 / 75

Page 61: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Computação Evolutiva Problema do Caixeiro Viajante

Mutações de itinerários e nova seleção...

Mutações!

Os códigos genéticos dos filhos podem sofrer mutações com baixasprobabilidades:

v =[3 7 1 4 5 6 7 2 10 8

].

Uma nova geração é formada... E o processo repete...

Uma nova seleção é feita e os indivíduos mais aptos reproduzem...

Experimento com 100 cidades geradas aleatoriamente...

Média 9,4 % acima do valor ótimo após 20.000 gerações!!!

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 47 / 75

Page 62: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Computação Evolutiva Forma Geral de um Algoritmo Evolutivo

Forma geral de um algoritmo evolutivo...

Algoritmo de computação evolutiva1 Gerar uma população inicial2 Enquanto uma certa condição não for satisfeita, calcular:

1 Valiar os indivíduos da população,2 Selecionar os indivíduos mais aptos para a reprodução,3 Produzir variações dos indivíduos selecionados

(crossing over e mutações).

Em 1950...Friedbelg, Fraser, Bremermann, Box e outros aplicaram a teoria daevolução em alguns problemas...Mas, seus trabalhos não foram bem recebidos pela comunidadecietífica na época.

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 48 / 75

Page 63: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Computação Evolutiva Forma Geral de um Algoritmo Evolutivo

Nos anos 1960s...Três diferentes linhas de pesquisa surgiram em lugares distintos...

Programação Evolutiva – Lawrence Fogel, Califórnia, EUA.

David Fogel, filho de Lawrence Fogel, deu continuação aos trabalhosdo pai...

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 49 / 75

Page 64: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Computação Evolutiva Forma Geral de um Algoritmo Evolutivo

Nos anos 1960s...Três diferentes linhas de pesquisa surgiram em lugares distintos...

Programação Evolutiva – Lawrence Fogel, Califórnia, EUA.

David Fogel, filho de Lawrence Fogel, deu continuação aos trabalhosdo pai...

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 49 / 75

Page 65: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Computação Evolutiva Forma Geral de um Algoritmo Evolutivo

Nos anos 1960s...Três diferentes linhas de pesquisa surgiram em lugares distintos...

Algoritmos Genéticos – John H. Holland, Universidade de Michiganem Ann Arbor, EUA.

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 50 / 75

Page 66: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Computação Evolutiva Forma Geral de um Algoritmo Evolutivo

Nos anos 1960s...Três diferentes linhas de pesquisa surgiram em lugares distintos...

Estratégias Evolutivas – estudantes de mestrado da UniversidadeTecnológica de Berlin, Alemanha.

Ingo Rechenberg Hans-Paul Schwefel Peter Bienert

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 51 / 75

Page 67: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Computação Evolutiva Forma Geral de um Algoritmo Evolutivo

As três linhas de pesquisa seguiram caminhos independentes poraproximadamente 25 anos!

Em 1990, foi organizado um evento onde as três comunidades foramreunidas.

Durante esse primeiro encontro, foi apresentado o termo computaçãoevolutiva.

Em 1993 foi publicado pela MIT Press o primeiro periódico sobrecomputação evolutiva.

O interesse em computação evolutiva aumentou ainda mais após oprimeiro IEEE World Congress on Computational Intelligence emJunho de 1994.

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 52 / 75

Page 68: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Conjuntos Nebulosos Introdução

Teoria dos ConjuntosNebulosos

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 53 / 75

Page 69: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Conjuntos Nebulosos Introdução

Introdução

Conjuntos Clássicos:Usados para classificar elementos em conceitos gerais:

Números pares;Cidades que são capitais na América do Sul;Números impares;Times de futebol;

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 54 / 75

Page 70: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Conjuntos Nebulosos Introdução

Mas existem situações como estas:1 Grandes cidades da América do Sul;2 Baixa temperatura;3 Alta taxa de inflação;

e termos como os seguintes:1 Pequeno erro de aproximação;2 Rápida resposta de um sistema dinâmico;3 Mal condicionamento de um sistema de equações lineares;

Esses termos, podem ser representados por conjuntos???

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 55 / 75

Page 71: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Conjuntos Nebulosos Introdução

Problema da Dicotomia:

Borel, 1950Um grão de arroz não constitui uma porção.Da mesma forma, dois ou três grãos não representam uma porção dearroz.Por outro lado, ninguém discute que 1000 grãos de arroz representamuma porção.Qual é portanto o limite apropriado?Podemos dizer que 500 grãos de arroz não representam uma porção,mas 501 representam?

Conjuntos nebulosos podem ser usados para representar conceitoscomo a noção de porção de arroz.

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 56 / 75

Page 72: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Conjuntos Nebulosos Introdução

Problema da Dicotomia:

Day and Night – Esher, 1938.

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 57 / 75

Page 73: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Conjuntos Nebulosos Introdução

Conjuntos nebulosos...foram introduzidos em 1963 por Lofti Zadeh...

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 58 / 75

Page 74: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Conjuntos Nebulosos Introdução

Conjuntos nebulosos...Zadeh nasceu em 1921 no Azerbaijão, um país localizado no Cáucaso, entre Europa eÁsia, ao sul da Rússia!

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 59 / 75

Page 75: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Conjuntos Nebulosos Introdução

Conjuntos nebulosos...Atualmente, Zadeh é professor da Universidade de Califórnia, em Berkley, nos EUA.

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 60 / 75

Page 76: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Conjuntos Nebulosos Introdução

A idéia de Zadeh...

Conjuntos Clássicos...Considere o conjunto dos números reais entre 1 e 3:

A = {x ∈ R : 1 ≤ x ≤ 3}.

O conjunto A é unicamente determinado por uma função depertinência fA : R → {0, 1} onde

fA(x) =

{1 se x ∈ A,0 caso contrário.

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 61 / 75

Page 77: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Conjuntos Nebulosos Introdução

A idéia de Zadeh...

Conjuntos Clássicos...Considere o conjunto dos números reais entre 1 e 3:

A = {x ∈ R : 1 ≤ x ≤ 3}.

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 61 / 75

Page 78: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Conjuntos Nebulosos Introdução

A idéia de Zadeh...

Conjuntos Nebulosos...Um conjunto nebuloso é caracterizado por uma função de pertinênciaµA : U → [0, 1].

Exemplo – O conjunto nebuloso das porções de arroz:

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 62 / 75

Page 79: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Conjuntos Nebulosos Introdução

A idéia de Zadeh...

Conjuntos Nebulosos...Um conjunto nebuloso é caracterizado por uma função de pertinênciaµA : U → [0, 1].

Exemplo – O conjunto das pessoas jovens

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 62 / 75

Page 80: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Conjuntos Nebulosos Introdução

A idéia de Zadeh...

Conjuntos Nebulosos...Um conjunto nebuloso é caracterizado por uma função de pertinênciaµA : U → [0, 1].

Exemplo – O conjunto nebuloso dos números próximos de 2:

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 62 / 75

Page 81: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Conjuntos Nebulosos Introdução

Qual a vantagem dos conjuntos nebulosos?

Einstein, 1928“As far as the propositions of mathematics refer to reality, they are notcertain; and as far as they are certain, they do not refer to reality”.

Princípio da Incompatiblidade de Zadeh:Quando a complexidade de um sistema aumenta, nossa habilidade defazer sentenças precisas e significantes sobre seu comportamentodiminue até um limiar onde precisão e relevância tornam-secaracterísticas mutuamente exclusivas.

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 63 / 75

Page 82: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Conjuntos Nebulosos Uma aplicação da teoria dos conjuntos nebulosos

Aplicação de Conjuntos Nebulosos...parte da dissertação de mestrado de Alex Castilho!

Hoje, temos a opção de usar a internet como meio de comunicaçãoem tempo real.

VoIP – Tecnologia que usa a internet para comunicação de voz.

Problema:A internet foi projetada para o tráfego de dados genéricos, e nãonecessariamente para a transmissão de voz em tempo real.

A qualidade dos serviços VoIP pode ser inferior aos serviçosconvencionais de telefonia!

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 64 / 75

Page 83: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Conjuntos Nebulosos Uma aplicação da teoria dos conjuntos nebulosos

Aplicação de Conjuntos Nebulosos...parte da dissertação de mestrado de Alex Castilho!

Objetivo:Avaliar a qualidade de um serviço VoIP.

Como?Considerando a perda de pacotes e o atraso da rede!

Metodologia:Projetar um sistema baseado na teoria dos conjuntos nebulosos quedá uma nota para a qualidade do serviço VoIP conhecendo a perda depacotes e o atraso da rede!

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 65 / 75

Page 84: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Conjuntos Nebulosos Uma aplicação da teoria dos conjuntos nebulosos

Modelando o problema usando conjuntos nebulosos...

Conjuntos nebulosos para perda de pacotes:

Perda imperceptível (P1), aceitável (P2) e inaceitável (P3).

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 66 / 75

Page 85: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Conjuntos Nebulosos Uma aplicação da teoria dos conjuntos nebulosos

Modelando o problema usando conjuntos nebulosos...

Conjuntos nebulosos para o atraso da rede:

Perda imperceptível (A1), aceitável (A2) e inaceitável (A3).

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 67 / 75

Page 86: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Conjuntos Nebulosos Uma aplicação da teoria dos conjuntos nebulosos

Modelando o problema usando conjuntos nebulosos...

Conjuntos nebulosos para a qualidade do serviço:

Excelente (Q1), bom (Q2), regular (Q3), ruim (Q4) e péssimo (Q5).

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 68 / 75

Page 87: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Conjuntos Nebulosos Uma aplicação da teoria dos conjuntos nebulosos

Formular um conjunto de regras SE-ENTÃO...

Se a perda é imperceptível e o atraso é imperceptível,então o serviço é excelente.Se a perda é aceitável e o atraso é imperceptível,então o serviço é bom.

...

Se a perda é inaceitável e o atraso é inaceitável,então o serviço é péssimo.

Nesse problema, foram usadas 9 regras nebulosas!

Exemplo:Se a perda foi de 0.6 e o atraso foi de 0.2,então a nota para a qualidade do serviço é 0.52.

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 69 / 75

Page 88: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Conjuntos Nebulosos Uma aplicação da teoria dos conjuntos nebulosos

Avaliação da qualidade de um serviço VoIP usandoconjuntos nebulosos...

Dado um valor de perda e atraso, o sistema deduz a qualidade doserviço usando o sistema de regras!

Experimento (47 amostras da qualidade de um serviço):

EQM =147

N∑i=1

(qi − q̂i)2 = 0.008,

EPMN =10047

×

(N∑

i=1

|qi − q̂i |qi

)= 10%.

q1, . . . , qN – média das notas fornecidas por 7 pessoas,q̂1, . . . , q̂N – valores fornecidos pelo sistema nebuloso.

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 70 / 75

Page 89: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Conjuntos Nebulosos Uma aplicação da teoria dos conjuntos nebulosos

Conclusão:

A teoria dos conjuntos nebulosos foi introduzida em 1973 por LoftiZadeh.

Um conjunto nebuloso é caracterizado por uma função de pertinênciaµA : U → [0, 1] e pode ser usado para representar conceitos incertoscomo a noção de pessoa jovem, temperatura confortável, serviçobom, etc.

Sobretudo, ela pode ser usada para fazer de forma simples etransparente em sistemas de regras nebulosas.

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 71 / 75

Page 90: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Considerações Finais

Considerações Finais

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 72 / 75

Page 91: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Considerações Finais

Inteligência computacional = Redes Neurais +Computação Evolutiva + Conjuntos Nebulosos

Inteligência computacional abrange:

Redes neurais artificiais – modelo matemático inspirado nosistema nervoso biológico;Computação evolutiva – técnicas inspiradas na teoria da evoluçãode Darwin;Teoria dos conjuntos nebulosos – usada para descrever conceitosincertos usados frequentemente na linguagem natural;

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 73 / 75

Page 92: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Considerações Finais Complementando o que foi dito...

Outros modelos importantes de redes neurais artificiais:Perceptrons de Múltiplas Camadas e o Algoritmo deRetropropagação (MLP);Redes auto-organizáveis de Kohonen (SOM);Redes baseadas em Funções de Base Radial (RBF);Support Vector Machines e os resultados de Vapnik;

Outras técnicas de computação evolutiva:Otimização Multi-objetivo;Critérios elitistas e o conceito de nicho;Coevolução;Sistemas imunológicos;Colônias de Formigas;

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 74 / 75

Page 93: Tópicos em Inteligência Computacional - uel.br · Inteligência Computacional Introdução Para quem liga, o sistema parece inteligente. Inteligência artificial Sistema (secretária,

Considerações Finais Complementando o que foi dito...

Outros resultados sobre conjuntos nebulosos:Normas e co-normas triangulares;Cálculo com palavras;Computação granular;Princípio de extensão de Zadeh;Sistemas de Takagi-Sugeno;

Sistemas híbridos...Redes neurais nebulosas (ANFIS e IFAMs);C.E. para determinar a melhor arquitetura de uma RNA;C.E. para determinar os pesos sinápticos de uma RNA;Computação evolutiva para regras SE-ENTÃO nebulosas;

Marcos Eduardo Valle (Matemática - UEL) Tópicos em Inteligência Computacional XXIV Semana da Matemática 75 / 75