Redes basadas en competición

José Edinson Aedo CoboDepto. de Ing. Electrónica.E-mail: joseaedo@udea.edu.co

Redes neuronales basadas en competición

•El aprendizaje se basa en un competencia entre neuronas.• Cuando un patrón de entrada es sometido a la red, una neurona se declara ganadora dependiendo de una similitud entre los pesos de la neurona y el vector de entrada. • El premio de la neurona ganadora es el aprendizaje. los pesos se varias de tal forma que se acerquen aún más al patrón de entrada.

Redes neuronales basadas en competición

Uno de los algoritmos de aprendizaje más conocido es el aprendizaje de Kohonen:

. j . j . j

. j

w (nuevo) w (viejo) [x w (viejo)]

x (1 )w (viejo)

Vector de entrada Vector de pesos para unidad jColumna j de la matriz de pesos

Redes neuronales basadas en competición

• Sombrero Mexicano (Kohonen) ( para la unidad xi)

Xi-3 Xi-2Xi-1 Xi

Xi+1 Xi+2 Xi+3Xi-4 Xi+4

w2w2

w1w1

w3 w3

Si

R1, radio de interconexión. Xi es conectada a las unidades X i-k y Xi+k para k= 1, ….R1

R2, radio de la región donde se realiza reforzamiento. R2 < R1

Wk, pesos de interconexión entre Xi las unidades Xi-k y Xi+k Para 0 k R2, Wk > 0

Para R2 k R1, Wk < 0

Redes neuronales basadas en competición

• Sombrero mexicano ( para la unidad xi)

Xi-3 Xi-2Xi-1 Xi

Xi+1 Xi+2 Xi+3Xi-4 Xi+4

w2w2

w1w1

w3 w3

Si

X, Vector da activación

Xold Vector de activación en paso previo (tiempo previo)

Paso 0: Inicialice los parámetros: tmax, R1, R2 y los pesos WK = C1, para k=0,…..R1, ( C1 >0) WK = C2, para k=R1,…..R2, ( C2 < 0) Xold = 0Paso 1:Presente la señal de entrada Si, haga X=S Salve las activaciones Xold_i =Xi

Inicialice el contador t=1Paso 2: Mientras t< tmax, realice los pasos de 3 a 7. Paso3: Calcule la entrada de la red, i = 1,…,n

1 1 2

i k i k i k

1 2 1

R R 1 R

i 1 old 2 old 2 oldk R k R k R 1

x C x C x C x

Sombrero mexicano. Algoritmo

Paso4: aplique la función de activación (rampa de 0 a Xmax ,pendiente 1): Paso5: Salve la activación corriente en Xold: Xold i= Xi, i=1,…,n

Paso6: incremente el contador de interacciones t=t+1

Paso7: Verifique la condición de parada. Si t < tmax, continue

i max ix min(x ,max(0,x )) con i 1,...,n

Sombrero mexicano. Algoritmo

Red de Kohonen lineal

YJXmYi

XiXnXi

w11

wi1 wn1

w1jwij

wnj

wnm

wim

w1m

…… ……

…… ……

* * * {* (* [#] *) *} * * *

Ejemplo de un arreglo lineal: Neurón de referencia

R2

R1 Radio de las vecindades

Paso 0: Inicialice los pesos Wij , establezca los parámetros topológicos de la vecindad. Establezca parámetros de aprendizajePaso 1: Mientras la condición de parada sea falsa realice los pasos del 2 a 8. Paso2: Por cada vector de entrada realice los pasos 3-5: Paso3: Por cada j calcule:

2

ij ii

D(j) (w x )

Red de Kohonen. Algoritmo

Paso4: Encuentre el índice J tal D(J) es mínimo. Paso5: Para todas la unidades j dentro de una vecindad especificada de J, para todo i calcule:

Paso6: Actualice la tasa de aprendizaje. Paso7: Reduzca el radio de la vecindad en un valor especificado. Paso8: Verifique la condición de parada.

ij ij i ijw (nuevo) w (viejo) [x w (viejo)]

Red de Kohonen. Algoritmo