Redes Neuronales Monocapa

Redes Monocapa:

l1 lnl2

Las redes monocapa se utilizan típicamente en en tareas relacionadas en lo que se conoce comoautoasociación: por ejemplo, para regenerar informaciones de entrada que se presentan a lared incompletas o distorsionadas.

P/ejemplo Hopfield, BSB, Learnig Matrix

Red completamente Recurrente

Red completamente Recurrente

Un conjunto de patrones es presentado simultáneamente en las unidades una a la vez. Con forme cada patrón es presentado los pesos son modificados.

Una versión degradada de uno de los patrones se presenta en la red y esta intentar reconstruir el patrón.

Otra Red Recurrente

La Otra Red Recurrente

Debido a que el procesamiento en redes recurrentes depende del estado de la red en el último paso que tuvo lugar para responder a la entrada actual en diferentes formas, se dependerá de las entradas antes presentadas.

Por ejemplo Simple Recurrent Network (Elman) and the Jordan Network

Red Recurrente Simple

Redes de una sola capa Feedforward

Redes De Una Sola Capa Feedforward

Las unidades de entrada son fijadas y entonces la activación es propagada a través de la red hasta que los valores de las unidades de salida son determinadas.

La red actúa como un vector de una función valuada tomando un vector en la entrada y regresando otro vector en la salida.

Por ejemplo, las entradas pudieran representar las características de un miembro de un grupo y la salida pudiera ser la predicción de el grupo al cual pertenece dicha persona.

Redes Neuronales Multicapa

Introducción.

Los sistemas neurales artificiales imitan la estructura del hardware del sistema nervioso, con la intención de construir sistemas de procesamiento de información paralelos, distributivos i adaptivos, que puedan presentar un cierto comportamiento “Inteligente”.

Red Multicapa.

Cuando las neuronas de una capa reciben señales de entrada de otra capa anterior, mas cercana a la red, y envían señales de salida a una capa posterior, estamos ante una red de conexiones hacia adelante o Feedforward.

Uso

Son especialmente útiles en aplicación de reconocimiento o clasificación e patrones.

La mayoría se las redes multicapa son Bicapa; este tipo de estructura es particularmente adecuada par realizar una asociación de la información o patrón de entrada con otra información patrón de salida en la segunda capa.

Redes con conexiones hacia adelante y hacia atrás (feedforward / feedback):

En este tipo de redes circula información tanto hacia adelante como hacia atrás durante el funcionamiento de la red. Para que esto sea posible, existen conexionesfeedforward y conexiones feedback entre las neuronas.

También existen algunas que tienen conexiones laterales entre neuronas de la misma capa. Estas conexiones se diseñan como excitadores (con peso positivo) o inhibidoras (con peso negativo), estableciendose una competencia entre las neuronas correspondientes.

Redes Con Conexiones Hacia Adelante Y Hacia Atrás(feedforward / Feedback)

La regla de aprendizaje LMS minimiza el error cuadrático medio e2(k) generado por la salida deseada y la obtenida , el cual es definido por

donde en cada iteración tenemos un gradiente estimado de la forma:

los primeros R elementos de ∇e2(k) son derivadas con respecto a los pesos de la red, mientras que el elemento (R + 1) es la derivada con respecto a b.

Algoritmo de Widrow-Hoff.

Aprendizaje mediante algoritmo de Widrow-Hoff

Se aplica en entrenamientos Supervisados y, es utilizada para entrenar un simple elemento de procesado con función de transferencia lineal. 

 A esta regla

también se la conoce por el nombre de Regla de Widrow-Hoff, ya que, éste la utilizó en su modelo de neurona Adaline (Adaptive Linear Elemento).

x1

xn

1 f

p f

y1

yp

1

1

W10

Wp0

W11

Wp1

W1n

Wpn

f = función lineal

Estructura Madaline: Muchos Adalines

Perceptron

Un pe con una función de transferencia del tipo harddlimiter y en donde las entradas las entradas son binarios o bipolares (mismo que adaline pero con esas restricciones).

La regla que rige el cambio de pesos es

Otra de las modificaciones propuestas fue sugerida por windrow and hoff ellos propusieron una regla basada en la regla delta.(es la mas utilizada).

Los pesos cambian según la formula

Tomando las entradas y salidas como bipolares tenemos que el cambio en los pesos se producen de la manera siguiente: