-
8/6/2019 Inf Rn Fadap
1/4
REDES ADALINEFILTROS ADAPTATIVOS 1
Abstract Este trabajo tiene por objetivo principal describiren
forma concreta y precisa el funcionamiento, estructura,
algoritmos, aplicaciones de las redes Adaline. Reforzando asi
los
conocimientos previos a la teoria de redes neuronales.
Finlizaremos dandole enfacis al estudio de la aplicacion
Filtros
Adaptativos, donde estudiaremos su funcionamiento,
estructura
y una implementacion practica en MATLAB.
Palabras_Clave Redes Neuronales, Adaline, Filtro
Adaptativo.
I. INTRODUCCION
onocemos de antemano la teoria de las redes neuronales y
omo primer estudio nos enfocamos en el perceptron de
Rosemblatt, del cual sacamos muchos conceptos basicos e
importantes, como son:
El perceptron es capaz de clasificar patrones linealmente
separables, utiliza el aprendizaje sepervisado, la funcion
de
activacion es una hardlim (limitador fuerte). Su algoritmo
se
entrenamiento no es optimisado pues busca una posible
solucion y no la mejor respuesta a la clasificacion.
Las redes adaline son muy parecidas al perceptron, es decir,
solo son capaces de clasificar patrones linealmente
separables,
la diferencia radica en que su funcion de activacion es
lineal,
pero su punto fuerte esta en su algoritmo de entrenamiento
basado en la optimizacion del error cuedratico medio. Esto
hace que busque una respuesta optima para las soluciones.
Por estos criterios las redes Adaline son muy utilizadas en
la aplicacion de filtros adaptatvios, sistemas predictivos
en
general.
II. INTRODUCCIONALASREDESADALINE
A. Que son las redes Adaline y sus Caractristicas ?
Son Redes muy similares al Perceptron con la diferencia de
que su funcion de activacion es lineal (purelin) . Son de
aprendizaje supervisado. De manera similar al perceptron
buscan minimizar el error en la salida. Usan la regla de
Widrow Hoff para el aprendizaje. Pueden resolver
problemas linealmente separables. Su algoritmo LMS (Least
Mean Square) es mas eficiente que la regla de aprendizaje
del perceptron pues minimiza el error medio cuadratico.
Este aprendizaje es del tipo Supervisado.
B. Estructura
La estructura general de la red es la siguiente:
Fig1. Estructura General Adaline
Como su funcion de activacion es lineal la salida esta
definida
directamente por la funcion identidad:
1
.
)(
i
ii bpWa
na
nfa
C. Algoritmo LMS
A continuacion describimos en resumen el algoritmo general
LMS utilizado en las redes adaline:
1. Conocer de antemano el conjunto de patrones deentrenamiento,
valor esperado (t), valor de entrada (p).
2. Evaluamos los patrones de la red mediante la
funcionidentidad:
R
i
ii bpWa1
. (1)
3. Calcular los nuevos pesos y bias mediante lasecuaciones:
ikkkk patWW .21 (2)
kkkk atbb 21 (3)
4. Calculamos el error medio cuadratico mediante:
Redes AdalineFiltros Adaptavios
Diego A. Heras B, Kleber Astudillo.
C
anP1
P2
-
8/6/2019 Inf Rn Fadap
2/4
REDES ADALINEFILTROS ADAPTATIVOS 2
L
R
kk atL
f1
22.
2
1(4)
Donde k es el numero de iteraciones.
Se debe imponer el valor de la tasa de aprendizaje (), por
ejemplo; = 0.2.
5. Se debe terminar el aprendizaje si:
2fesperado (5)
En este caso se debe imponer el valor del esperado (goal)
D. Implementacion ADALINE con MATLAB
MATLAB nos ofrece la herramienta toobox de redes
neuronales en el cual nos simplifica y facilida la
implementacion de estas redes con su entrenamiento LMS
araves de la siguiente manera:
newlin(PR,S,ID,LR): crea una red Adaline
donde: R, matriz Rx2 que contiene valores maximos y
minimos de cada uno de los R elementos de entrada.
S: # de neuronas
ID: Arreglo de valores deretardos, 0 por defecto.
LR: Tasa de aprendizaje, 0.01 por defecto.
Net.inputWeights{1,1}.delays: retardos iniciales.
Net.adaptParam.passes: # de iteraciones.
Mas adelante observaremos como se emplean estos comandoscon la
aplicacion descrita.
III. FILTROSADAPTATIVOS
A. Introduccion
Las redes Adaline tienen su maxima aplicacion en el
tratamiento de seales, en especial el filtrado. En
comunicaciones o transporte de seales hay muchas
interferencias que modifican las seales, por esto se ahn
creado diversos tipos de filtros, desde redes pasivas
RCL,tecnicas de frecuencia, etc. Hasta modernos diseos
digitales
DSP. El diseo es muy complejo y costoso en muchas
ocasiones. Las redes neuronales simplifican estos diseos
como veremos mas adelante.
B. Que son los Filtros Adaptativos?
Al escuachar una cancion que sale de unaltavoz profesional,
se dividen las frecuencias en bajos, medios, agudos, esto se
logra mediante filtros que separan estas frecuencias del
original. Este es el trabajo de un filtro separar ciertas
comoponentes deseadas o indeseadas de la original, en este
caso podria separar componentes de ruido indeseadas de una
seal.
C. Como se disean?
Se implementan filtros mas eficientes mediante software.
Laimplementacion de un filtro mediante redes adaline funciona
de la siguiente manera:
La red toma valores de la entrada y salida deseada y se
ajusta para dar una respuesta dada. Si cambian los valores
la
red puede adaptarse automaticamente a estos nuevos valores.
D. Estructura
Al combinar la red Adaline con un bloque de retardos en
linea se crea un filtro adaptativo de la siguiente manera:
Fig.2. Retardos en linea
Fig.3. filtro adaptativo
En este caso la salida queda definida por la siguiente
expresion :
R
i
i bikywbWpfka1
,11. (6)
D
D
D
W1,1
W1,2
W1,R
b=1
n(k) a(k)
kykp1
12
kykp
1RkykpR
ky
y(k)
-
8/6/2019 Inf Rn Fadap
3/4
REDES ADALINEFILTROS ADAPTATIVOS 3
El esquema en diagrama de bloques para su mayor
comprension lo exponemos a continucion:
s: senal original
v: fuente de ruido
m: ruido contaminado por el trayecto
t: suma de s+m
a: salida esperada del filtro adaptativo
e: error
Fig.4. Diagrama de bloques de un filtro Adaptativo
Para nuestra red, la salida del filtro son los valores de m,
en
la entrada tendremos los valores de v respectivamente. Hay
que tomar en cuenta que la seal m que pasa atraves de algun
trayecto (camino de contaminacion) por efectos esta se
atenua
y se defasa por retardos, por tanto esta seal debera tener
la
siguiente forma:
)sin()( wkAkm
Funcionamiento:
No es posible determinar la forma de onda de la senal
original pues puede ser cualquier onda en cualquier
instante.
El filtro adaptativo se adapta a cualquier tipo de onda. Por
esto
se debe determinar completamente la forma de la fuente del
ruido.
La senal v se introduce y se obtiene la fuente efectiva del
ruido m, por toanto lo que interesa es que la seala sea lo
mas parecida a m, para que asi se cancele la parte de ruido
efectivo de t =s +m, aproximandose asi la senall de error e
a la senal s.
IV. SISTEMASPREDICTIVOSUSANDOFILTROSADAPTATIVOS
Los sitemas predictivos se basan en datos estadisticos,
como sabemos las redes neuronales son muy apropiadas en el
manejo de los mismos. Por el simple hecho de las cualidades
de las redes Adaline y de los filtros adaptativos creados
con
estas, vimos que son capaces de adaptarse a diversas seales,
esto quiere decir que se pueden estudiar patrones de
comportamientos estadisticos en cierto tiempo y asi entrenar
una red que sea capaz de comportarse y predecir valores en
ciertos tiempos.
Un ejemplo muy practico es un estudio de la prediccion del
consmo de carga, se toman datos del consumo en todo el ao y
se entrena con estos valores a la red. A lo largo del ao la
red
entrenada sera capaz de predecir consumos picos o bajos en
ciertas fechas del ao o dias en funcion de su entrenamiento,
ademas si ocurre algo fuera de lo planeado la red esta en la
capacidad de adaptarse a nuevos valores y asi dar resultados
optimos.
V. EJERCICIOPRACTICO
El ejercicio implementado es el de un filtro adaptativo en
base
a lo estudiado. Nuestra aplicacion se describe:
En el ejercicio practico se uso Matlab7.0 con el cualleemos una
seal de Audio de formato wav a unafrecuencia de muestreo fs de
44100 hz la cual es laseal de origen S.Creamos una seal que actua
como la fuente de ruidovk la cual es una onda senoidal a 1khz con
unafrecuencia de muestreo de 44000hz y una amplitud de10. La seal
que actua como fuente de ruido al pasarpor el camino contaminante
se atenua en un factor de 10por perdidas supuestas y un desfase de
/2, teniendo elruido contaminante mkque al sumar a la seal de
origense produce la seal contaminada. Esta sealcontaminada pruduce
un pitido ya que es una onda senoen un instante determinado.
La seal de origen posee 70000 muestras, la fuente deruido 4000
muestras igual que la seal contaminante,para sumar S con mk se creo
una matriz de zeros de70000 muestras y m se introdujo en esta desde
la 30000hasta la 33999 esto se realizo para poder sumar las
seales.
Se utilizo una frecuencia de muestreo de 44000hz paramk y vk ya
que los valores se repiten en intervalos de 44muestras y esto
beneficia para poder procesar la seal aadquirida en el aprendizaje
ya que si tomariamos una fsde 44100 las muestras no se repetirian
en intervalos de44.
En el aprendisaje el vector de entradas P es igual alvector vk y
la salida deseada es mk.
Camino de
contiminacion
Filtro
Adaptativo
+
Fuente de
Ruido v a
et
m
Seal
Original s
+- Error
Seal
Restaurada
-
8/6/2019 Inf Rn Fadap
4/4
REDES ADALINEFILTROS ADAPTATIVOS 4
Para esto se utilizo 132 muestras ya que si utilizamosmas
muestras, el tiempo de procesamiento es mayor.
Para la implementacion se utilizo dos retardos, trespesos
sinapticos y el bias, inicializandolos con valorescualesquiera. Se
uso una neurona y con el comandoadapt el cual realiza el filtro
adaptativo y con el comandosim, probamos la red obteniendo los
valores a con un
total de 132 muestras, como vemos no son las muestrasnecesarias
para filtrar 4000 muestras pero como el ruidose repite
periodicamente y las muestras se dividen en 44y 88, en los anexos
se describe el algoritmo, y las 88muestras se van concatenando para
obtener las 4000pero hay que colocar las 44 muestras del inicio ya
queestas no hay como repetirlas porque el filtro se demoraen
estabilizarse.
Una ves teniendo las 4000 muestras de la salida de lared se las
coloca de igual manera en un vector de 70000muestras y se resta a
la seal contaminada teniendo laseal filtrada. Hay que recalcar que
al estabilizarse secrea un pico esto se debe al filtro
adaptativo.
En el figura siguiente se aprecian los resultados de
lasimulacion, que corresponde al Audio original. Ruido,Audio mas
ruido y la Seal filtrada.
0 1000 2000 3000 4000 5000 6000 7000-1
0
1
Audio
0 500 1000 1500 2000 2500 3000 3500 4000-1
0
1
Ruido
0 1000 2000 3000 4000 5000 6000 7000-2
0
2
Seal con ruido
0 1000 2000 3000 4000 5000 6000 7000-1
0
1
Seal filtrada
Para mayor informacion el codigo con su menu seencuentra en los
anexos.
VI. CONCLUSIONES
1. Las redes adaline son muy parecidas al perceptron
con la diferencia que su funcion de activacion es
lineal.
2. La optimizacion de la red esta en su algoritmo LMS
descrito anteriormente que minimiza optimamente el
error medio cuadratico.
3. En los filtros adaptativos basicamente se utiliza una
estrcutura de retardos y una red adaline.
4. El entrenamiento de la red se hace basicamente con
dos ruidos, la fuente de ruido y el ruido que atraviesa
un trayecto que es el que nos interesa filtrar, valores
de entrada y salida respectivamente. De estamanera
no nos interesa la forma de la seal de ingreso, sino
estudiar el comportamiento del ruido.
5. En la simulacion del filtro adaptativo se demora un
tiempo en estabilizarse, por esta razon en las
primeras muestras de la grafica se v que no se filtra
correctamente produciendose una minima distorcion
que no se percibe en el audio.
VII. REFERENCIAS
[1] Martin T. Hagan, Howard B. Demounth and Mark Beale,
NeuralNetwork Desing, original copyright by PWS Publishing
Company1996 . China Machine Press.
[2] James A. Freeman, David M. Skapura, Neural
Networks,Algorithms, Applications and Programming Techniques ,
Addison-
Wesley Publishing Company. QA76.87.F74. 1991.
[3] Universidad Tecnologica de Pereira, Tutorial de Redes
Neuronales,
Copurigth Universidad Tecnologica de Pereira. 2000.
[4] MATLAB 7, Help Neural Network Toolbox.
