Aplicações da Visão Computacional em Biomedicinatavares/downloads/publications/comunicacoes/… · 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii

Aplicações da Visão Computacional em Biomedicina

João Manuel R. S. Tavares

[email protected] www.fe.up.pt/~tavares

Sumário

1. Apresentação

2. Visão Computacional em Biomedicina

i. Introdução

ii. Segmentação

iii. Análise e Simulação • Seguimento • Emparelhamento • Alinhamento • Simulação

iv. Visão 3D

3. Publicações & Eventos

2 Aplicações da Visão Computacional em Biomedicina 2014@João Manuel R. S. Tavares

Apresentação

Apresentação • Prof. Associado no Dep. de Eng. Mecânica (DEMec) da

FEUP • Investigador Sénior e Coordenador de Projecto no Lab. de

Óptica e Mecânica Experimental (LOME) do INEGI • Doutorado e Mestre em Eng. Electrotécnica e de

Computadores (FEUP) (com Tese e Dissertação na área do Processamento e Análise de Imagem)

• Licenciado em Eng. Mecânica (FEUP) • Áreas de Investigação: Processamento e Análise de

Imagem (segmentação, seguimento, emparelhamento, alinhamento e visão 3D), Interfaces Homem/Máquina (visualização de dados e percepção humana), Desenvolvimento de Produto (dispositivos biomédicos), Biomecânica, Movimento e Postura Humana

2014@João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 4

Visão Computacional: Introdução

Introdução • O sistema sensorial de visão tem elevada importância

para grande parte dos seres vivos – Podendo disponibilizar informações de índole básica, como

verificar a existência ou não de obstáculos, ou complexa, como o seguimento e a análise de movimento

– Operações comuns: identificação (segmentação), seguimento e reconhecimento de movimento (seguimento e análise de movimento), correspondência e alinhamento (emparelhamento e alinhamento), interpolação de formas (simulação), obtenção da forma/informação 3D (Visão 3D)


Introdução • Os investigadores da área da Visão Computacional

tentam desenvolver algoritmos computacionais para realizar de forma automática, ou semi-automática, operações e tarefas desenvolvidas pelos (complexos) sistemas de visão dos seres vivos


Imagens originais

Azevedo et al. (2010) Computer Methods in Biomechanics and Biomedical Engineering 13(3):359-369

Modelo computacional 3D voxalizado e poligonizado

Introdução • Algoritmos de Visão Computacional são de elevado

interesse para a Sociedade, sendo frequentemente usados, por exemplo, em: – Ciências naturais, Desporto – Engenharia, Indústria – Medicina, Biologia

• Exemplos de tarefas comuns envolvendo algoritmos de Visão Computacional: – Segmentação, Reconhecimento (2D-4D) – Seguimento e análise de movimento, incluindo

emparelhamento, alinhamento e simulação (2D-4D) – Visão 3D


Introdução: Visão Computacional – Operações e Objectivos

Aplicações da Visão Computacional em Biomedicina 9

Melhoramento de imagem

Segmentação de imagem / extração de características

seguimento

emparelhamento

simulação

Imagem / imagens

Análise de movimento alinhamento

Processamento de Imagem

Análise de Imagem / Visão Computacional

2014@João Manuel R. S. Tavares

Visão 3D

Visão por Computador

Introdução • (Pré-)Processamento de Imagem: suavização de ruído

usando um verme “inteligente”

10 2014@João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina

Imagens originais, corrompidas e melhoradas por diferentes métodos de suavização

Araujo et al. (2014) Expert Systems with Applications 41(13):5892–5906

Visão Computacional em Biomedicina: Segmentação

Segmentação • Pretende-se identificar de forma automática, ou semi-

automática, as estruturas (2D/3D) presentes em imagens estáticas ou em sequências de imagem

• As técnicas mais comuns são baseadas em binarização por limiar, crescimento de regiões, redes neuronais, emparelhamento de protótipos, modelações geométricas, estatísticas e físicas

• É uma das operações mais usuais em Visão Computacional, sendo frequentemente a primeira “grande” tarefa considerada

• Problemas envolvidos: ruído, baixa resolução, reduzido contraste, formas não conhecidas, oclusões parciais, múltiplas estruturas presentes, etc.


• Segmentação de contornos em pedobarografia dinâmica: método de Otsu, operadores morfológicos, XOR

Imagens originais Após segmentação

Bastos & Tavares (2004) LNCS 3179:39-50

Segmentação

camada de contacto + vidro

câmara espelho

luz reflectida vidro

pressão camada opaca

lâmpada

lâmpada camada transparente


Region Growing, x=215; y=254

Segmentação • Segmentação de estruturas do ouvido: método de

crescimento de regiões

Imagem original Segmentação obtida (labirinto ósseo)

Barroso et al. (2011) CNME 2011 Ferreira et al. (2014) Computer Methods in Biomechanics and Biomedical Engineering 17(8):888-904

X: 254 Y: 214Index: 116.7RGB: 0.459, 0.459, 0.459


Segmentação • Segmentação de caraterísticas: protótipos deformáveis

geométricos

Carvalho & Tavares (2006) CompIMAGE 2006, 129-134 Carvalho & Tavares (2007) VipIMAGE 2007, 209-215

Exemplo de um protótipo deformável


Segmentação • Segmentação de caraterísticas faciais:

protótipos deformáveis geométricos

Carvalho & Tavares (2006) CompIMAGE 2006, 129-134 Carvalho & Tavares (2007) VipIMAGE 2007, 209-215

Imagem original e imagens de campos de energia (força)

Segmentação da íris usando um protótipo deformável (circulo)

Segmentação do olho usando um

protótipo deformável 2014@João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 16

Segmentação • Segmentação de estruturas em imagens: modelos

ativos de forma (Modelação Estatística)

Vasconcelos & Tavares (2008) Computer Modeling in Engineering & Sciences 36(3):213-241 2014@João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 17

Segmentação • Análise do tracto vocal durante a fala partir de imagens

de ressonância magnética: modelos ativos de forma

Vasconcelos et al. (2011) Journal of Voice 25(6):732-742

Segmentação intermédia II

Imagem original +

modelo médio

Segmentação final

Segmentação intermédia I


Segmentação • Segmentação de estruturas em imagens: modelos

ativos de aparência

Vasconcelos & Tavares (2008) Computer Modeling in Engineering & Sciences 36(3):213-241 2014@João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 19

Segmentação • Análise do tracto vocal durante a fala partir de imagens de

ressonância magnética: modelos ativos de aparência

Vasconcelos et al. (2011) Journal of Engineering in Medicine 225(1):68-76 Vasconcelos et al. (2012) Journal of Engineering in Medicine 226(3):185-196

Segmentações intermédias

Segmentação inicial

Segmentação final

Segmentações intermédias


Segmentação • Segmentação de estruturas em imagens: contornos

ativos (i.e. snakes – modelos paramétricos)

Tavares et al. (2009) International Journal for Computational Vision and Biomechanics 2(2):209-220 2014@João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 21

Segmentação • Segmentação de estruturas em imagens: contornos

ativos (i.e. snakes)

Imagem original e contorno inicial

Contorno final

Gonçalves et al. (2008) Computer Modeling in Engineering & Sciences 32(1):45-55 2014@João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 22

Imagem original e contorno inicial Contorno final

Segmentação • Segmentação de melanomas em imagens

dermoscópicas: contornos ativos (i.e. snakes)

Araujo et al. (2012) Avanços em Visão Computacional, ISBN: 978-85-64619-09-8, 27-46 2014@João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 23

Imagens originais e contornos determinados

Segmentação • Segmentação de estruturas em imagens: métodos de

level set – modelos geométricos

Ma et al. (2010) Medical Engineering & Physics 32(7):766-774 Ma et al. (2010) Computer Methods in Biomechanics and Biomedical Engineering 13(2):235-246



level set

Imagem original Segmentação inicial Segmentação final

Perdigão et al. (2005) Encontro_1_Biomecânica, 81-85 2014@João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 25

Segmentação • Segmentação de bifurcação da carótida em imagens de

Doppler: métodos de contornos ativos e de level set

Segmentação usando um modelo de contornos ativos (Yessi)

Silva et al. (2011) VipIMAGE 2011, 117-122 Santos et al. (2013) Expert Systems with Applications 40(16):6570-6579

Segmentação usando um modelo de level set (Chan-Vese)



level set, conhecimento prévio

Ma et al. (2010) Medical Engineering & Physics 32(7):766-774 2014@João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 27

Segmentação • Segmentação do pavimento pélvico feminino a partir

de imagens de ressonância magnética: método de level set, conhecimento prévio

Ma et al. (2010) Medical Engineering & Physics 32(7):766-774 Segmentação do pavimento pélvico


Segmentação


Ma et al. (2013) Computers in Biology and Medicine 43(4):248-258 Ma et al. (2012) The Int. Journal for Numerical Methods in Biomedical Engineering 28(6-7):714-726 Ma et al. (2011) Annals of Biomedical Engineering 39(8):2287-2297

Segmentação de órgãos (bexiga, vagina, ânus) da cavidade pélvica (3 exemplos)

• Segmentação de órgãos da cavidade pélvica feminina a partir de imagens de ressonância magnética: modelos de level set, conhecimento prévio

Visão Computacional em Biomedicina: Seguimento,

Emparelhamento, Alinhamento e Simulação

Seguimento • Pretende-se seguir o movimento e/ou a deformação de

estruturas em sequências de imagem (2D/3D) • Nesta área, destacam-se as técnicas baseadas em fluxo

óptico, emparelhamento de blocos e em métodos estocásticos

• Usualmente, envolve a estimativa do movimento envolvido, a gestão das entidades seguidas, a análise do movimento seguido bem como a sua quantificação

• Problemas envolvidos: movimento não rígido, distorção geométrica, condições de iluminação variáveis, oclusão, ruído, múltiplas estruturas, etc.


Seguimento • Plataforma desenvolvida para

seguimento de entidades (pontos / rectas) em sequências de imagem: filtro de Kalman ou filtro Unscented Kalman, otimização, distância de Mahalanobis, modelo de gestão

Pinho et al. (2007) Int. Journal of Simulation Modelling 6(2):84-92 Pinho & Tavares (2009) VipIMAGE 2009, 299-304 Pinho & Tavares (2009) Computer Modeling in Engineering & Sciences 46(1):51-75


Seguimento • Seguimento de marcas em análise da marcha: filtro de

Kalman, distância de Mahalanobis, otimização, modelo de gestão

Previsão Incerteza Medição Correspondência Resultado

Pinho et al. (2005) ICCB 2005, 915-926 Pinho & Tavares (2009) Computer Modeling in Engineering & Sciences 46(1):51-75

(5 frames)


Sousa et al. (2007) ISHF2007, 331-340 Sousa et al. (2007) ICCB2007, 291-296

Seguimento • Análise da marcha com deteção de

eventos: filtro de Kalman, distância de Mahalanobis, otimização


Pinho et al. (2005) LSCCS, Vol. 4A:463-466 Pinho et al. (2007) International Journal of Simulation Modelling 6(2):84-92

(547 frames)

Seguimento • Seguimento de ratos em sequências longas de imagem:

filtro de Kalman, distância de Mahalanobis, otimização, modelo de gestão


Emparelhamento • É uma das tarefas mais usuais em Visão Computacional,

por exemplo, para alinhar estruturas, reconhecer estruturas, obter informação 3D, analisar movimento, etc.

• Geralmente é conseguido através da consideração de características invariantes, como a curvatura, ou de deslocamentos (assinaturas) em espaços globais/próprios, como no espaço modal ou de Fourier

• Problemas envolvidos: oclusão, deformações não rígidas, variações elevadas de forma, etc.


Emparelhamento • Emparelhamento de contornos em imagens: modelação

física/geométrica, análise modal, otimização

Bastos & Tavares (2006) Inverse Problems in Science and Engineering 14(5):529-541 Tavares & Bastos (2010) Progress in Computer Vision and Image Analysis 339-368


• Emparelhamento de contornos em pedobarografia dinâmica: FEM, análise modal, otimização

Emparelhamento

Imagens originais Contornos emparelhados

Bastos & Tavares (2004) LNCS 3179:39-50 Tavares & Bastos (2010) Progress in Computer Vision and Image Analysis, 339-368


câmara espelho

luz reflectida vidro

pressão camada opaca

lâmpada

lâmpada camada transparente


Alinhamento • É uma tarefa habitualmente necessária para comparar

estruturas representadas em imagens adquiridas em instantes de tempo distintos ou segundo diferentes condições/técnicas

• O alinhamento é geralmente essencial, por exemplo, em medicina para analisar a evolução de patologias a partir de imagens

• Geralmente é conseguido através da consideração de características invariantes, como pontos de curvatura máxima, emparelhamento e estimativa da transformação envolvida, ou pela minimização de uma medida de semelhança

• Problemas envolvidos: características não determinadas facilmente, deformações não rígidas, variações elevadas de forma, etc.


Alinhamento • Alinhamento de contornos em imagens: modelação

geométrica/física, otimização, programação dinâmica

Oliveira & Tavares (2008) Computer Modeling in Engineering & Sciences 31(11):1-11 2014@João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 40

Alinhamento • Alinhamento de imagens de pedobarografia: modelação

geométrica, otimização, programação dinâmica

Imagens originais e contornos extraídos

Contornos emparelhados e imagens antes e após alinhamento

Oliveira et al. (2009) Journal of Biomechanics 42(15):2620-2623 2014@João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 41

Alinhamento • Alinhamento de imagens de pedobarografia:

transformada de Fourier

Imagens originais Imagens antes e após alinhamento

Oliveira et al. (2010) Computer Methods in Biomechanics and Biomedical Engineering 13(6):731-740


Alinhamento • Alinhamento de imagens de pedobarografia: método

híbrido: Alinhamento de Contornos ou Alinhamento baseado na transformada de Fourier + Otimização de semelhança (MSE/MI/XOR)

Imagens originais, antes e após alinhamento

Oliveira & Tavares (2011) Medical & Biological Engineering & Computing 49(3):313-323


Alinhamento • Alinhamento de imagens de uma mesma modalidade:

maximização direta da correlação cruzada (transformada de Fourier)

44

Imagens Alinhadas

Imagem originais (RM - proton density)

Soma

Soma Diferença



Alinhamento • Alinhamento intermodal (CT/RM): otimização pelo

Método de Powell (otimização) de medida de semelhança (MI)

45

Imagens Alinhadas

Imagem originais

CT RM CT+RM

CT+RM Diferença CT+RM

Oliveira et al. (2011) Medical & Biological Engineering & Computing 49(3):313-323


• Alinhamento de imagens 3D: otimização iterativa, alinhamento 3D – cont.

Xadrez das imagens pré-alinhamento (CT, tórax – mesma pessoa, Δt: 8.5 meses)

(xadrez - construído substituindo algumas partes (voxels) da imagem modelo pelas partes da imagem a alinhar que têm as mesmas coordenadas das partes retiradas à imagem modelo)

46 2014@João Manuel R. S. Tavares

Alinhamento

46 Aplicações da Visão Computacional em Biomedicina

F F

F F F

F F F

M M M

M M M

M

M

Xadrez das imagens pós-alinhamento (Semelhança: MI, Transf.: B-splines cúbicas)


Alinhamento • Alinhamento de imagens 3D: otimização iterativa,

alinhamento 3D


Oliveira & Tavares (2014) Computer Methods in Biomechanics and Biomedical Engineering 17(2):73-93

Alinhamento • Alinhamento de imagens de pedobarografia para

identificação (esq. / direito), extração de medidas e índices

Imagens originais, após normalização, contornos e áreas identificadas



Aplicação no estudo de imagens DaTSCAN SPECT


Alinhamento


Imagens DaTSCAN SPECT cerebrais são usadas para auxiliar o diagnostico da doença de Parkinson e para a distinguir de outras doenças degenerativas. A solução desenvolvida é capaz de:

– Segmentar as áreas relevantes e realizar análises dimensionais – Quantificar os potenciais de ligação da ganglia basal – Computação automática de dados estatísticos relativamente a uma

população de referência

Normal Alzheimer Parkinsonismo idiopático

Tremor essencial


Alinhamento


Slice médio de uma população usado como referência

Slice correspondente de um paciente

Diferença de intensidades

Mapeamento dos Z-scores no slice (a vermelho valores mais elevados)

(Os retângulos azuis representam as ROIs 3D usadas para calculo dos potenciais de ligação)

Oliveira et al. (2014) The Quarterly Journal of Nuclear Medicine and Molecular Imaging 58(1):74-84



Alinhamento


Oliveira et al. (2014) The Quarterly Journal of Nuclear Medicine and Molecular Imaging 58(1):74-84


Ganglia basal “média” de uma

população normal

Ganglia basal de um paciente com parkinsonismo

idiopático

Ganglia basal de um paciente com parkinsonismo

vascular

Reconstrução 3D da ganglia basal e quantificação


Alinhamento


Oliveira & Tavares (2014) Proceedings of the Institution of Mechanical Engineers, Part H: Journal of Engineering in Medicine (submitted)

Aplicação na segmentação e reconstrução 3D dos ossículos do ouvido médio em imagens de TC

Estrutura reconstruida a partir das segmentações obtidas

Slices com a estrutura a segmentar e a reconstruir

Alinhamento • Alinhamento de sequências de imagem 2D: alinhamento

espacial e temporal

Oliveira et al. (2011) Medical & Biological Engineering & Computing 49(7):843-850 Oliveira & Tavares (2013) Medical & Biological Engineering & Computing 51(3):267-276


Alinhamento • Alinhamento de sequências de imagem 2D de

pedobarografia dinâmica: alinhamento espacial e temporal

54

Sequências originais antes do alinhamento

Sequências pré-processadas

Sequências de imagem originais

Sequências após alinhamento


câmara espelho


Oliveira et al. (2011) Medical & Biological Engineering & Computing 49(7):843-850


Simulação • É uma tarefa muito usada em Computação Gráfica

(morphing) mas também muito útil em Visão Computacional, por exemplo, para estimar a deformação existente entre duas estruturas distintas ou entre dois instantes de uma mesma estrutura, estimar as transições entre duas formas adquiridas com espaçamento temporal elevado, etc.

• Geralmente é conseguida através da consideração de transformações geométricas

• No entanto, quando se deve considerar o comportamento físico das estruturas envolvidas, devem ser usadas metodologias físicas (por exemplo, usando FEM) – Dificuldades comuns são relativas à estimativas das forças envolvidas

e das propriedades adoptadas para os materiais – Fase de emparelhamento dos objetos torna-se crucial

2014@João Manuel R. S. Tavares 55 Aplicações da Visão Computacional em Biomedicina

Simulação


• Simulação (morphing) física de contornos em imagens: FEM, análise modal, otimização, eq. de Lagrange


• Simulação de contornos em imagens: FEM, análise modal, otimização, equação de Lagrange

Emparelhamento obtido

Deformações simuladas

Simulação


Tavares & Pinho (2005) Journal of Computer Science 4(1):9-18 Gonçalves et al. (2008) Computer Modeling in Engineering & Sciences 32(1):45-55

Imagens originais


Visão Computacional em Biomedicina: Visão 3D

Visão 3D • Pretende-se obter a forma 3D de estruturas ou a

informação 3D de cenas a partir de imagens 2D • Nesta área, destacam-se: 1) formas exteriores: técnicas

ativas (com projecção de energia ou movimento relativo), passivas (sem projecção de energia ou movimento relativo) e de escavação espacial; 2) formas interiores: segmentação 2D (i.e. contornos) e interpolação (marching cubes) e segmentação 3D

• Usualmente, envolve tarefas de calibração, segmentação, alinhamento, triangulação e interpolação

• Problemas envolvidos: distorção geométrica, iluminação variável, oclusão, ruído, formas complexas, etc.


Visão 3D • Reconstrução 3D de estruturas a partir de slices:

segmentação 2D, marching cubes

Perdigão et al. (2005) CMNI 2005 Pimenta et al. (2006) CompIMAGE 2006, 343-348 Alexandre et al. (2007) VipIMAGE 2007, 359-362

2014@João Manuel R. S. Tavares 60 Aplicações da Visão Computacional em Biomedicina

Visão 3D • Reconstrução 3D de órgãos da cavidade pélvica

feminina partir de imagens axial e sagital de ressonância magnética: segmentação 2D, marching cubes, fusão


Ma et al. (2013) Medical Engineering & Physics 35(12):1819-1824

Slices axial e sagital da cavidade pélvica (1 - bexiga, 2 - vagina)

Bexiga reconstruida usando informação axial e sagital (2 vistas)

Visão 3D • Reconstrução 3D de órgãos a partir de imagens de

diferentes modalidades: alinhamento, marching cubes, fusão


Oliveira & Tavares (2014) Computer Methods in Biomechanics and Biomedical Engineering 17(2):73-93

slices coronal, sagital e axial, e segmentação obtida Visualização 3D após fusão

TAC/SPECT

Visão 3D • Reconstrução 3D de estruturas a partir de sequências de

imagem: escavação espacial


Azevedo et al. (2008) Advances in Computational Vision and Medical Image Processing: Methods and Applications, 117-136

Visão 3D


Azevedo et al. (2010) Computer Methods in Biomechanics and Biomedical Engineering 13(3):359-369

• Reconstrução 3D de estruturas a partir de sequências de imagem: escavação espacial

Imagens originais Modelo computacional 3D obtido voxalizado e poligonizado

• Reconstrução 3D da coluna a partir de duas radiografias 2D e usando um modelo deformável (atlas)

Visão 3D


Moura et al. (2010) Computer Modeling in Engineering & Sciences 60(2):115-138 Moura et al. (2011) Medical Engineering & Physics 33(8):924-933

Interface desenvolvida Modelo ajustado (duas vistas) e reconstrução obtida

Aplicações da Visão Computacional em Biomedicina:

Sumário

Sumário

• A área da Visão Computacional é complexa e exigente, mas de elevado interesse em muitos domínios, em particular em Medicina e em Engenharia

• Vários desafios existem, como, por exemplo, condições de aquisição difíceis, oclusão, formas e topologias complexas, movimentos complicados

• Trabalho considerável já foi desenvolvido, mas existem ainda muitos desafios importantes e difíceis a resolver

• Métodos e metodologias de outras áreas do conhecimento, como da Matemática, Mecânica Computacional, Medicina e Biologia, podem contribuir para a resolução de tais desafios

• Para tal, Colaborações são Necessárias e Bem-vindas 67 Aplicações da Visão Computacional em Biomedicina 2014@João Manuel R. S. Tavares

Publicações & Eventos


Taylor & Francis journal “Computer Methods in Biomechanics and Biomedical Engineering: Imaging & Visualization”

www.tandfonline.com/tciv


Lecture Notes in Computational Vision and Biomechanics (LNCV&B) Series Editors: João Manuel R. S. Tavares, Renato Natal Jorge ISSN: 2212-9391, Publisher: SPRINGER

www.springer.com/series/8910


Eventos:

Webpage (www.fe.up.pt/~tavares)


Agradecimentos

• Os trabalhos apresentados têm vindo a ser realizados parcialmente com o apoio da Fundação para a Ciência e a Tecnologia (FCT) em Portugal, nomeadamente, através dos projetos: – PTDC/BBB-BMD/3088/2012 – PTDC/SAU-BEB/102547/2008 – PTDC/SAU-BEB/104992/2008 – PTDC/EEA-CRO/103320/2008 – UTAustin/CA/0047/2008 – UTAustin/MAT/0009/2008 – PDTC/EME-PME/81229/2006 – PDTC/SAU-BEB/71459/2006 – POSC/EEA-SRI/55386/2004

73 Aplicações da Visão Computacional em Biomedicina 2014@João Manuel R. S. Tavares


João Manuel R. S. Tavares

[email protected] www.fe.up.pt/~tavares

Documents

Aplicações da Visão Computacional em Biomedicinatavares/downloads/publications/comunicacoes/… · 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii