Teoría Estadística de la Información en el Procesamiento de Imágenes (con aplicaciones en imágenes SAR)

Introducción PolSAR TI y PolSAR Investigación Referencias Avisos

Teoría Estadística de la Información en elProcesamiento de Imágenes

Con Aplicaciones en Imágenes SAR

Alejandro C. [email protected]

LaCCAN

Laboratório de Computação Científicae Análise Numérica

Coloquio del CIEM – Diciembre de 20131 / 58


Objetivos

Conversar sobre:1 El principal modelo para imágenes de radar de apertura

sintética polarimétrico – PolSAR

2 Elementos de Teoría de la Información

3 Ver resultados de aplicar TI al modelo para detección debordes, filtrado, clasificación y segmentación, mensuración dela información y detección de cambios

4 Vislumbrar líneas de investigación

2 / 58


Objetivos






2 / 58


Objetivos






2 / 58


Objetivos






2 / 58


Estrutura

1 Introducción

2 Modelos para datos PolSAR

3 Teoría de la información y modelos PolSAR

4 Investigación

5 Avisos

3 / 58


Los problemas que nos interesan

¿Qué tienen en común los siguientes problemas de procesamientoy análisis de imágenes?

Clasificación y segmentación

Filtrado de ruido

Detección de bordes

Mensuración de la información

Detección de cambios

Todos pueden ser formulados como un problema de medir loparecidas o diferentes que son dos muestras de datos.

4 / 58


Los problemas que nos interesan

¿Qué tienen en común los siguientes problemas de procesamientoy análisis de imágenes?

Clasificación y segmentación

Filtrado de ruido




Todos pueden ser formulados como un problema de medir loparecidas o diferentes que son dos muestras de datos.

4 / 58


Em principio. . .

Tratándose de eso, podríamos

Hacer test de igualdad de medias, comparar as regiones deconfianza, si los datos son gaussianos

Hacer test de razón de verosimilitud. . .

pero no siempre las cosas son by the book.

¿Qué hacer cuando los datos están organizados en forma de unamatriz hermitiana y no siguen una ley gaussiana?

5 / 58


Em principio. . .






5 / 58


Em principio. . .






5 / 58


Em principio. . .






5 / 58


Em principio. . .






5 / 58


SAR Polarimétrico

Los sensores SAR Polarimétricos (PolSAR) son una importantefuente de información en teledetección.

En su forma más completa, en cada frecuencia de operación(banda), y en cada pixel no tenemos un vector de datos (comoen las imágenes multiespectrales), sino una matriz denúmeros complejos.

Es una tecnología cara, luego es importante medir lainformación que ella brinda.

7 / 58


SAR Polarimétrico




7 / 58


SAR Polarimétrico




7 / 58


¿Cómo mensurar la información?

Es un problema difícil desde su formulación.

Adoptaremos una estrategia mixta: por un lado formal,matemática, y por otro lado del punto de vista del usuario, delas aplicaciones.

8 / 58


¿Cómo mensurar la información?

Es un problema difícil desde su formulación.

Adoptaremos una estrategia mixta: por un lado formal,matemática, y por otro lado del punto de vista del usuario, delas aplicaciones.

8 / 58


Estrutura

1 Introducción



4 Investigación

5 Avisos

9 / 58


¿De qué se trata?

Los sensores SAR polarimétricos registran la intensidad y la fase devarias polarizaciones de la señal electromagnética que el blancodevuelve.

En cada pixel se registra una matriz de retorno de cuatro elementoscomplexos SHH, SHV, SVH, SVV, en que “H” y “V” denotan aspolarizaciones horizontal y vertical, respectivamente.

10 / 58


Modelado I

La información polarimétrica está en el vector Y = [SVV SVH SHH]t ,en que t denota el traspuesto. Admitiendo que Y sigue una leygaussiana compleja de media nula (Goodman, 1963a,b) condensidad

f (y;Σ) = 1

π3|Σ| exp{−y∗Σ−1y

},

en que | · | es el determinante, ∗ es el traspuesto del conjugado, Σ esla matriz de covarianza de Y , que é hermitiana, positiva definida, ytiene toda la información necesaria (López-Martínez et al., 2005).

12 / 58


Modelado II

Se calcula la media de n muestras para aumentar la relaciónseñal/ruido, formando la matriz de covarianza de n looks (Anfinsenet al., 2009):

Z = 1

n

n∑i=1

YiY∗i =

I11 a12 + jb12 a13 + jb13

a12 − jb12 I22 a23 + jb23

a13 − jb13 a23 − jb23 I33

, (1)

que sigue una distribución Wishart complexa de densidad

fZ (z;Σ,n) = n3n|z|n−3

|Σ|nΓ3(n)exp

{−n tr(Σ−1z)}, (2)

en que Γ3(n) =π3 ∏2i=0Γ(n− i), Γ(·) es la función gama de Euler, y

tr(·) es la traza. Denotamos esta distribución Z ∼W (Σ,n), y se sabeque E(Z) =Σ (Anfinsen et al., 2009).

13 / 58


Modelado III

Propiedades importantes:

Z = I11 a12 + jb12 a13 + jb13

a12 − jb12 I22 a23 + jb23

a13 − jb13 a23 − jb23 I33

.

Los elementos de la diagonal de Z siguen uma lei χ2 multivariada(Hagedorn et al., 2006). Los elementos de fuera de la diagonalsiguem distribuciones gaussianas complejas.

Blancos diferentes en la misma imagen tienen matrices decovarianza diferentes, por lo que queremos comparar matrices decovarianza o, mejor aún, modelos para estas matrices.

14 / 58


Estrutura

1 Introducción



4 Investigación

5 Avisos

16 / 58


Elementos

! La Teoría de la Información es una rama de la Probabilidad yde la Estadística fuertemente influenciada por la Ingeniería.

! La información puede ser vista como el tiempo o el esfuerzoque demanda realizar una tarea.

! Fisher mensuró la información que una muestra tiene sobre lapoblación (Wassermann, 2005).

17 / 58


Elementos




17 / 58


Elementos




17 / 58


Entropía e Información de Kullback-Leibler

La entropía es una medida de la incertidumbre que tenemos sobreeventos producidos por sistema estocástico:

H(X) =−∫

SfX log fX .

La información cruzada es una medida (típicamente asimétrica) delo diferentes que son dos distribuciones. También se conoce comoentropía relativa, entropía cruzada o divergencia deKullback-Leibler:

K (X : Y ) =∫

SfX log

fX

fY,

y se la puede generalizar.

18 / 58


Entropía e Información de Kullback-Leibler

La entropía es una medida de la incertidumbre que tenemos sobreeventos producidos por sistema estocástico:

H(X) =−∫

SfX log fX .

La información cruzada es una medida (típicamente asimétrica) delo diferentes que son dos distribuciones. También se conoce comoentropía relativa, entropía cruzada o divergencia deKullback-Leibler:

K (X : Y ) =∫

SfX log

fX

fY,

y se la puede generalizar.

18 / 58


Divergencias (h,φ)

Una divergencia mide lo diferentes que son dos distribuciones. Ladivergencia (h,φ) es una familia de divergencias (Csiszár, 1967;Salicrú et al., 1994).

Definición

Seam las variables aleatorias X e Y de igual soporte S y densidadesfX (x | θ1) y fY (x | θ2), respectivamente. Sean φ : (0,∞) →R+ y hfunciones, la primera convexa y la segunda creciente tal queh(0) = 0, ambas diferenciables. La divergencia (h,φ) entre lasdistribuciones es

dhφ(X‖Y ) = h

(∫x∈S(x)

fY (x | θ2)φ

(fX (x | θ1)

fY (x | θ2)

)dx

). (3)

19 / 58


Divergencias (h,φ)

Una divergencia mide lo diferentes que son dos distribuciones. Ladivergencia (h,φ) es una familia de divergencias (Csiszár, 1967;Salicrú et al., 1994).

Definición

Seam las variables aleatorias X e Y de igual soporte S y densidadesfX (x | θ1) y fY (x | θ2), respectivamente. Sean φ : (0,∞) →R+ y hfunciones, la primera convexa y la segunda creciente tal queh(0) = 0, ambas diferenciables. La divergencia (h,φ) entre lasdistribuciones es

dhφ(X‖Y ) = h

(∫x∈S(x)

fY (x | θ2)φ

(fX (x | θ1)

fY (x | θ2)

)dx

). (3)

19 / 58


Podemos construir distancias a partir de divergencias

Simetrización:

dhφ(X ,Y ) = 1

2

(dhφ(X‖Y )+dh

φ(Y‖X )).

Propiedades:

Las distancias estocásticas satisfacen:

1 dhφ(X ,Y ) ≥ 0 y dh

φ(X ,Y ) = 0 ⇔ X = Y (no negatividad);

2 dhφ(X ,Y ) = dh

φ(Y ,X ) (simetría).

20 / 58


Podemos construir distancias a partir de divergencias

Simetrización:

dhφ(X ,Y ) = 1

2

(dhφ(X‖Y )+dh

φ(Y‖X )).

Propiedades:

Las distancias estocásticas satisfacen:

1 dhφ(X ,Y ) ≥ 0 y dh

φ(X ,Y ) = 0 ⇔ X = Y (no negatividad);

2 dhφ(X ,Y ) = dh

φ(Y ,X ) (simetría).

20 / 58


Distancias h,φ y sus funciones

distancia (h,φ) h(y) φ(x)

Kullback-Leibler y/2 (x−1)logx

dKL(X ,Y ) = 12

∫(fX − fY ) log fX

fY

Bhattacharyya − log(−y+1), −px+ x+12

dB(X ,Y ) =− log∫ √

fX fY 0 ≤ y < 1

Hellinger y/2, (p

x−1)2

dH(X ,Y ) = 1−∫ √fX fY 0 ≤ y < 2

Rényi (orden β) 1β−1 log((β−1)y+1),

x1−β+xβ−β(x−1)−22(β−1) ,

dβR(X ,Y ) = 1

β−1 log

∫fβ

X f1−β

Y +∫f

1−βX f

βY

2 0 ≤ y < 11−β 0 <β< 1

χ2 y/4 (x−1)2(x+1)/x

dχ2 (X ,Y ) = 14

(∫ (fX −fY )2

fX+∫ (fX −fY )2

fY

)

21 / 58


Otras distancias

Jensen-Shannon: dJS(X ,Y ) = 12

[∫fX log 2fX

fY +fX+∫

fY log 2fY

fY +fX

]Aritmética-geométrica: dAG(X ,Y ) = 1

2

∫(fX + fY ) log fY +fX

2p

fY fX

Triangular: dT(X ,Y ) = ∫ (fX−fY )2

fX+fY

Media armónica: dHM(X ,Y ) =− log∫ 2fX fY

fX+fY=− log

(1− dT(X ,Y )

2

)

22 / 58


Resultados importantes

Obtuvimos distancias estocásticas entre distribuciones Wishart conigual número de looks, o sea, mediremos cuán lejos está

fZ (z;Σ1,n) = n3n|z|n−3

|Σ1|nΓ3(n)exp

{−n tr(Σ−11 z)

},

de

fZ (z;Σ2,n) = n3n|z|n−3

|Σ2|nΓ3(n)exp

{−n tr(Σ−12 z)

}.

También obtuvimos resultados generales, ésto es, para Σ1 6=Σ2 yn1 6= n2.

23 / 58


Distancias estocásticas entre leyes Wishart con igualnúmero de looks

dχ2 (θ1,θ2) = 1

4

[( |Σ1||Σ2|2

abs(|(2Σ−12 −Σ−1

1 )−1|))n

+( |Σ2||Σ1|2

abs(|(2Σ−11 −Σ−1

2 )−1|))n

−2]

dKL(θ1,θ2) = n[ tr(Σ−1

1 Σ2 +Σ−12 Σ1)

2−p

]dβ

R(θ1,θ2) = log2

1−β + 1

β−1log

{[|Σ1|−β|Σ2|(β−1)|(βΣ−11 + (1−β)Σ−1

2 )−1|]n

+ [|Σ1|(β−1)|Σ2|−β|(βΣ−12 + (1−β)Σ−1

1 )−1|]n}

.

dB(θ1,θ2) = n[ log |Σ1|+ log |Σ2|

2− log

∣∣∣(Σ−11 +Σ−1

2

2

)−1∣∣∣].

dH(θ1,θ2) = 1−[ |(Σ−1

1 +Σ−12

2

)−1|p|Σ1||Σ2|

]n

.

24 / 58


¿Estos resultados se pueden usar en la práctica?

(a) Fotografía de San Francisco (b) Polarización HH

25 / 58


¿Grande? ¿Pequeño?

¿Qué es “grande”? ¿Qué es “pequeño”

Vimos que hay diferencias notables entre las distancias observadasentre

datos del mismo tipo de blanco (son pequeñas), y

datos de blancos diferentes (son grandes).

Pero, ¿qué es pequeño y qué es grande?

Distancias diferentes no son necesariamente comparables.

Un resultado muy importante permite transformar distancias enestadísticos de test de hipótesis, que son comparables y tienen unasemántica rica por poseer propiedades asintóticas conocidas.

36 / 58


¿Grande? ¿Pequeño?

¿Qué es “grande”? ¿Qué es “pequeño”

Vimos que hay diferencias notables entre las distancias observadasentre

datos del mismo tipo de blanco (son pequeñas), y

datos de blancos diferentes (son grandes).

Pero, ¿qué es pequeño y qué es grande?

Distancias diferentes no son necesariamente comparables.

Un resultado muy importante permite transformar distancias enestadísticos de test de hipótesis, que son comparables y tienen unasemántica rica por poseer propiedades asintóticas conocidas.

36 / 58


De distancias a test de hipótesis

Al calcular distancias estocásticas dhφ(X ,Y ) entre distribuciones de

la misma familia podemos escribir

dhφ(θ1,θ2).

Para usar dhφ(θ1,θ2) precisamos los parámetros verdaderos θ1 y θ2.

Como no son conocidos, podemos usar estimadores, por ejemplode máxima verosimilitud:

dhφ(θ̂1, θ̂2),

y esas distancias tienen buenas propiedades estadísticas. Puedentransformarse en estadísticos de test.

37 / 58





dhφ(θ1,θ2).



dhφ(θ̂1, θ̂2),


37 / 58





dhφ(θ1,θ2).



dhφ(θ̂1, θ̂2),


37 / 58





dhφ(θ1,θ2).



dhφ(θ̂1, θ̂2),


37 / 58


Test de hipótesis basado en distancias estocásticas

Sean los estimadores de máxima verosimilitud θ̂1 = (θ̂11, . . . , θ̂1M ) yθ̂2 = (θ̂21, . . . , θ̂2M ) de los parámetros θ1 y θ2 basados en muestrasindependientes de tamaños N1 y N2, respectivamente. El siguientelema vale bajo condiciones de regularidad razonables (Salicrú et al.,1994, p. 380):

Lemma

Lema Si N1N1+N2

−−−−−−−→N1,N2→∞ λ ∈ (0,1) y θ1 = θ2, entonces

Shφ(θ̂1, θ̂2) = 2N1N2

N1 +N2

dhφ(θ̂1, θ̂2)

h′(0)φ′′(1)D−−−−−−−→

N1,N2→∞ χ2M .

38 / 58


Decisões baseadas em estatísticas de teste

Los estadísticos de test Shφ(θ̂1, θ̂2) no sólo miden cuán parecidas o

diferentes son dos muestras, sino que permiten tomar decisionescon un cierto nivel de significancia.

39 / 58



Detección local de bordes

40 / 58




40 / 58




40 / 58



Midiendo la utilidad de los dados (que son caros)

Position

Pro

babili

ties

0.0

0.2

0.4

0.6

0.8

1.0

0 2 4 6 8 10

I ~ Σu, ω=1 vs. Σf, ω=10 II ~ Σu, ω=5 vs. Σf, ω=10

0 2 4 6 8 10

III ~ Σu, ω=1 vs. Σf, ω=15 IV ~ Σu, ω=5 vs. Σf, ω=15

V ~ Σu, ω=1 vs. Σp, ω=20 VI ~ Σu, ω=5 vs. Σp, ω=20 VII ~ Σu, ω=1 vs. Σp, ω=25

0.0

0.2

0.4

0.6

0.8

1.0

VIII ~ Σu, ω=5 vs. Σp, ω=25

0.0

0.2

0.4

0.6

0.8

1.0

IX ~ Σf, ω=10 vs. Σp, ω=20

0 2 4 6 8 10

X ~ Σf, ω=10 vs. Σp, ω=25 XI ~ Σf, ω=15 vs. Σp, ω=20

0 2 4 6 8 10

XII ~ Σf, ω=15 vs. Σp, ω=25

Mean Roughness (a) HH (b) HV (c) VV (d)

41 / 58


Clasificación comparando con protótipos

(c) Imagen segmentada (d) Clasificación ICM (e) Bhattacharyya

Figura: Segmentación y clasificación de imagen SIR-C

42 / 58


Filtrado con distancias estocásticas

Nonlocal means

43 / 58



Datos simuladosJanela 5×5, 1 iteração e α= 99%

(a) 4-looks (b) Zoom

(c) Filtro Lee (d) Zoom (e) Filtro Hellinger (f) Zoom

44 / 58



Datos PolSARVentana 5×5, 1 iteración, α= 80%

(g) Datos originales (h) Filtro de Media (i) Filtro Hellinger

Figura: Datos PolSAR, descomposición de Pauli.

45 / 58



Uso de información de campo

46 / 58


Complejidad Estadística Generalizada

Extracción de nuevos (y viejos) atributos

(a) Media local (b) Textura α̂ (c) Escala γ̂

(d) Entropía de ShannonH

(e) Distancia de HellingerD

(f) Complejidad C 47 / 58


Estrutura

1 Introducción



4 Investigación

5 Avisos

48 / 58


Algunas líneas de investigación

� Trabajar con otros modelos (Bindilatti & Mascarenhas, 2013)

� Resolver algunos de los muchos problemas de estimación

� Proponer nuevas técnicas de filtrado

� Proponer nuevos clasificadores (en ensemble, por ejemplo)

� Proponer nuevas técnicas de segmentación

� Proponer descomposiciones com propriedades estadísticas yvisuales interesantes

� Usar distancias estocásticas en otros contextos (Cabral et al., inpress-)

� Usar otras estrategias basadas en Teoría de la Información(Almeida et al., 2012; Frery et al., 2013)

49 / 58


Referencias I

Almeida, E., Medeiros, A. C., Rosso, O. & Frery, A. C. (2012), Generalizedstatistical complexity of SAR imagery, in L. Alvarez, M. Mejail, L. Gomez& J. Jacobo, eds, ‘Proceedings of CIARP 2012 – Progress in PatternRecognition, Image Analysis, Computer Vision, and Applications’, Vol.7441 of Lecture Notes in Computer Science, Springer Berlin / Heidelberg,pp. 656–663. URLhttp://dx.doi.org/10.1007/978-3-642-33275-3_81.

Anfinsen, S. N., Doulgeris, A. P. & Eltoft, T. (2009), ‘Estimation of theequivalent number of looks in polarimetric synthetic aperture radarimagery’, IEEE Transactions on Geoscience and Remote Sensing47(11), 3795–3809.

Bindilatti, A. A. & Mascarenhas, N. D. A. (2013), ‘A nonlocal poissondenoising algorithm based on stochastic distances’, IEEE SignalProcessing Letters 20(11), 1010–1013. URLhttp://dx.doi.org/10.1109/LSP.2013.2277111.

50 / 58

http://dx.doi.org/10.1007/978-3-642-33275-3_81

http://dx.doi.org/10.1109/LSP.2013.2277111


Referencias II

Buemi, M. E., Frery, A. C. & Ramos, H. S. (in press-), ‘Speckle reductionwith adaptive stack filters’, Pattern Recognition Letters.

Cabral, R. S., Aquino, A. L. L., Frery, A. C., Rosso, O. A. & Ramírez, J. A. (inpress-), ‘Structural changes in data communication in wireless sensornetworks’, Central European Journal of Physics.

Cintra, R. J., Frery, A. C. & Nascimento, A. D. C. (2013), ‘Parametric andnonparametric tests for speckled imagery’, Pattern Analysis andApplications 16(2), 141–161.

Csiszár, I. (1967), ‘Information type measures of difference of probabilitydistributions and indirect observations’, Studia ScientiarumMathematicarum Hungarica 2, 299–318.

Frery, A. C., Almeida, E. S. & Rosso, O. A. (2013), The generalized statisticalcomplexity of PolSAR data, in ‘Proceedings of The 4th Asia-PacificConference on Synthetic Aperture Radar (APSAR)’, Tsukuba, Japan.

51 / 58


Referencias III

Frery, A. C., Cintra, R. J. & Nascimento, A. D. C. (in press-a),‘Entropy-based statistical analysis of PolSAR data’, IEEE Transactions onGeoscience and Remote Sensing.

Frery, A. C., Nascimento, A. D. C. & Cintra, R. J. (2011), ‘Information theoryand image understanding: An application to polarimetric SAR imagery’,Chilean Journal of Statistics 2(2), 81–100. URLhttp://chjs.soche.cl/index.php?option=com_content&view=article&id=170&Itemid=58.

Frery, A. C., Nascimento, A. D. C. & Cintra, R. J. (in press-b), ‘Analyticexpressions for stochastic distances between relaxed complex Wishartdistributions’, IEEE Transactions on Geoscience and Remote Sensing.

Girón, E., Frery, A. C. & Cribari-Neto, F. (2012), ‘Nonparametric edgedetection in speckled imagery’, Mathematics and Computers inSimulation 82, 2182–2198. URL http://www.sciencedirect.com/science/article/pii/S037847541200136X.

52 / 58

http://chjs.soche.cl/index.php?option=com_content&view=article&id=170&Itemid=58

http://chjs.soche.cl/index.php?option=com_content&view=article&id=170&Itemid=58

http://www.sciencedirect.com/science/article/pii/S037847541200136X

http://www.sciencedirect.com/science/article/pii/S037847541200136X


Referencias IV

Goodman, N. R. (1963a), ‘The distribution of the determinant of acomplex Wishart distributed matrix’, Annals of Mathematical Statistics34, 178–180.

Goodman, N. R. (1963b), ‘Statistical analysis based on a certain complexGaussian distribution (an introduction)’, Annals of MathematicalStatistics 34, 152–177.

Hagedorn, M., Smith, P. J., Bones, P. J., Millane, R. P. & Pairman, D. (2006),‘A trivariate chi-squared distribution derived from the complex Wishartdistribution’, Journal of Multivariate Analysis 97, 655–674.

López-Martínez, C., Fábregas, X. & Pottier, E. (2005), ‘Multidimensionalspeckle noise model’, EURASIP Journal on Applied Signal Processing2005(20), 3259–3271.

Nascimento, A. D. C., Horta, M. M., Frery, A. C. & Cintra, R. J. (in press-),‘Comparing edge detection methods based on stochastic entropies anddistances for PolSAR imagery’, IEEE Journal of Selected Topics in AppliedEarth Observations and Remote Sensing.

53 / 58


Referencias V

Salicrú, M., Morales, D. & Menéndez, M. L. (1994), ‘On the application ofdivergence type measures in testing statistical hypothesis’, Journal ofMultivariate Analysis 51, 372–391.

Silva, W. B., Freitas, C. C., Sant’Anna, S. J. S. & Frery, A. C. (in press-),‘Classification of segments in PolSAR imagery by minimum stochasticdistances between Wishart distributions’, IEEE Journal of SelectedTopics in Applied Earth Observations and Remote Sensing.

Torres, L., Sant’Anna, S. J. S., Freitas, C. C. & Frery, A. C. (2014), ‘Specklereduction in polarimetric SAR imagery with stochastic distances andnonlocal means’, Pattern Recognition.

Wassermann, L. (2005), All of Statistics: A Concise Course in StatisticalInference, Springer.

54 / 58


Estrutura

1 Introducción



4 Investigación

5 Avisos

55 / 58


IEEE

IEEE GRSS

� Uma sociedade interdisciplinar voltada para a solução deproblemas em escala global

� Publica quatro periódicos de alto impacto e reputação

� Organiza eventos internacionais e regionais

56 / 58


EM

Ensaios Matemáticos

! Periódico da SBM

! Publica artigos tipo “survey”

! Bom prestígio, largo alcance

57 / 58

Comentarios, sugerencias y amenazas a:

Alejandro C. [email protected]://sites.google.com/site/acfrery� Mestrado em Modelagem Computacional de Conhecimento �

Education

Teoría Estadística de la Información en el Procesamiento de Imágenes (con aplicaciones en imágenes SAR)