31
Aprendizagem de Máquina A ár ea de apren di zag em de qui na es tuda co mo construir pro gr ama s co mput acionai s qu e se melhora m automaticamente com a experiência. Machine Learning o Computational Learning Theory (PAC Learning pro!a!ly approximately correct learning" o  #eural #et$or%s o &aye sian Learni ng o Algoritmos 'enticos o )nstance*&ased Learning (%*nearest neigh!or learning" o +ecision tree o ,andom tree o Ada!oost o -upport ector Machine o /stimation o0 hypothesis accuracy +e0.1 +iz*se que um programa computacional aprende com a experiência / no que diz respeito a uma classe de tare0as T e medida de desempenho P2 se o seu desempenho nas tare0as em T2 medida por P2 aumenta com a experiência /. /xemplo1 3" 4ogo de dama1 Ta re0a T1 5ogar dam a Medida de desempenho P1 porcentagem de 5ogos ganhos. /xperiência de treinamento /1 5ogar partidas. 6" ,econhecer letras caligrá0icas1 Tare0a T1 reconhecer e classi0icar pala7ras manuscritas em imagem. Medida de desempenho P1 porcentagem de pala7ras corretamente classi0icadas. /xperiência de treinamento /1 uma !ase de dados de pala7ras manuscritas com classi0ica89o. :" Aprender ;*operador Ta re0a T1 construir um ;*operador desconhecido Ψ . Medida de desempenho P1 di0eren8a entre as sa=das geradas pelo operador ideal Ψ  e pelo operador constru=do Ψ . /xperiência de treinamento /1 imagens exemplos. Aplica8>es1 /mula89o de operadores desconhecidos (exemplo1 detectar extremidades2 !ordas2 esquinas" ,ecohec er textur a. ,econhecer letras e 0ormas. Aumentar resolu89o das imagens !inárias e hal0tone. ?al0tone in7erso. @" +istinguir entre pedestre e carro. " +etectar rostos humanos. 3

aprendizagem

Embed Size (px)

Citation preview

PEE-5796 Algoritmos para Processamento, Anlise e Sntese de Imagens

Aprendizagem de Mquina

A rea de aprendizagem de mquina estuda como construir programas computacionais que se melhoram automaticamente com a experincia.

Machine Learning

Computational Learning Theory (PAC Learning probably approximately correct learning)

Neural Networks

Bayesian Learning

Algoritmos Genticos

Instance-Based Learning (k-nearest neighbor learning)

Decision tree

Random tree

Adaboost

Support Vector Machine

Estimation of hypothesis accuracy

Def.: Diz-se que um programa computacional aprende com a experincia E no que diz respeito a uma classe de tarefas T e medida de desempenho P, se o seu desempenho nas tarefas em T, medida por P, aumenta com a experincia E.

Exemplo:

1) Jogo de dama:

Tarefa T: jogar dama

Medida de desempenho P: porcentagem de jogos ganhos.

Experincia de treinamento E: jogar partidas.

2) Reconhecer letras caligrficas:

Tarefa T: reconhecer e classificar palavras manuscritas em imagem.

Medida de desempenho P: porcentagem de palavras corretamente classificadas.

Experincia de treinamento E: uma base de dados de palavras manuscritas com classificao.

3) Aprender W-operador

Tarefa T: construir um W-operador desconhecido .

Medida de desempenho P: diferena entre as sadas geradas pelo operador ideal e pelo operador construdo .

Experincia de treinamento E: imagens exemplos.

Aplicaes:

Emulao de operadores desconhecidos (exemplo: detectar extremidades, bordas, esquinas)

Recohecer textura.

Reconhecer letras e formas.

Aumentar resoluo das imagens binrias e halftone.

Halftone inverso.

4) Distinguir entre pedestre e carro.

5) Detectar rostos humanos.

Aprendizagem supervisionada / Aprendizagem no-supervisionada

instant-based learningoutros tipos

Simplesmente armazena exemplos de treinamento (mtodo preguioso)Constri explicitamente a funo-objetiva

k-nearest neighbor learning

locally weighted regression

radial basis functions neural network

algoritmos genticos

rvore de deciso

Constri somente aproximao local de funo-objetiva. Nunca constri toda a funo-objetiva.

Vantagem: funo pode ser complexa

Desvantagem: custo de classificar novas instncias pode ser alta

Bibliografia:

Tom. M Mitchell, Machine Learning, WCB/McGraw-Hill, 1997

[Ri05] H. Y. Kim, Binary Halftone Image Resolution Increasing by Decision-Tree Learning, IEEE Trans. on Image Processing, vol. 13, no. 8, pp. 1136-1146, Aug. 2004.

[Ri03] H. Y. Kim, Binary Operator Design by k-Nearest Neighbor Learning with Application to Image Resolution Increasing, Int. J. Imaging Systems, vol. 11, no. 5, pp. 331-339, 2000.

[Ci11] H. Y. Kim and R. L. Queiroz, Inverse Halftoning by Decision Tree Learning, in Proc. IEEE Int. Conf. on Image Processing, (Barcelona, Spain), vol. 2, pp. 913-916, 2003.

tes2.pdf (Projeto de Operadores pela Aprendizagem - captulo da tese de livre docncia)

Emulao de operadores pela aprendizagem de mquina:

P1 (120(160)

Eroso 3(3

P2 (120(160)

Eroso 3(3 (emulao erro zero)

P1 abertura 2(2

P1 abertura

P2 abertura 2(2

P2 abertura emulado (erro zero)

Deteco de pontasaxay

qxqp

mle cutb ax.bmp ay.bmp c:\proeikon\ee\e33.ges filtro.ctb

mle appb qx.bmp filtro.ctb qp.bmp

Reconhecimento de letras

axay

qxqyqp77

Nota: No foi usado Occam. Funciona bem usando janelas 7x7.Exemplo grfico de rvore de deciso para construir operadores binrios:Exemplos = { [000, 0], [000, 0], [000, 1], [001, 1], [100, 1], [100, 1], [011, 1], [111, 0] }

Feijes

axay

qx (f1.jpg)qpmle cutc ax.tga ay.tga \proeikon\ee\e11.ces filtro.ctc

mle appc f1.jpg filtro.ctc p1.tga

mle appc f2.jpg filtro.ctc p2.tga

mle appc f3.jpg filtro.ctc p3.tga

Leva 2 segundos para aprender e 0,5 segundos para aplicar (usando kd-tree sem backtracking).

// pos-2012 fora-bruta

#include

int diferenca(COR c1, COR c2)

{ return abs(c1[0]-c2[0])+

abs(c1[1]-c2[1])+

abs(c1[2]-c2[2]);

}

int main()

{ Mat_ ax; le(ax,"ax.tga");

Mat_ ay; le(ay,"ay.tga");

Mat_ qx; le(qx,"f4.jpg");

Mat_ qp(qx.rows,qx.cols);

for (int l=0; l