Procesos estocasticos espol

7/21/2019 Procesos estocasticos espol

http://slidepdf.com/reader/full/procesos-estocasticos-espol 1/60

1

ESCUELA SUPERIOR POLITÉCNICA DEL LITORALFACULTAD DE INGENIERÍA EN ELECTRICIDAD Y COMPUTACIÓN

FRANCISCO NOVILLO, PhD.

Probabilidades y Procesos Estocásticos

F. Novillo Probabilidades y Procesos Estocásticos



Procesos aleatorios o

estocásticos

F. Novillo Probabilidades y Procesos Estocásticos 2



Procesos aleatorios o estocásticos

Definición. Especificación de un procesoaleatorio. Función Valor medio,autocorrelación y autocovarianza. Procesosestocásticos múltiples. Correlación ycovarianza cruzada.




DefiniciónSistema de reconocimiento de voz las decisiones son hechas enbase a formas de ondas de voltaje correspondientes a unaexpresión oral.En una red peer to peer, el número de pares en el sistema varia conel tiempo.

En ocasiones el dos o más funciones de tiempo pueden ser deinterés. Por ejemplo, la temperatura de una determinada ciudad yde la demanda sobre la utilidad de energía eléctrica locales varían

juntos en el tiempo.Las funciones de tiempo aleatorio en el ejemplo anterior puedenser vistas como cantidades numéricas que evolucionanaleatoriamente en el tiempo o el espacio.Por lo tanto, lo que realmente se tiene es una familia de variablesaleatorias indexadas por el tiempo o la variable espacio.




Definición

Un proceso estocástico es un conceptomatemático que sirve para caracterizar unasucesión de variables aleatorias (estocásticas)

que evolucionan en función de otra variable,generalmente el tiempo. Cada una de lasvariables aleatorias del proceso tiene su propiafunción de distribución de probabilidad y, entre

ellas, pueden estar correlacionadas o no.Cada variable o conjunto de variables sometidasa influencias o efectos aleatorios constituye unproceso estocástico.




DefinciónLos siguientes son ejemplos dentro del amplio grupode las series temporales: – Señales de telecomunicación – Señales biomédicas (electrocardiograma, encefalograma,

etc.) – Señales sísmicas – El número de manchas solares año tras año – El índice de la bolsa segundo a segundo – La evolución de la población de un municipio año tras año – El tiempo de espera en cola de cada uno de los usuarios

que van llegando a una ventanilla – El clima es un gigantesco cúmulo de procesos estocásticos

interrelacionados (velocidad del viento, humedad del aire,etc) que evolucionan en el espacio y en el tiempo.




Definición

Considere un experimento aleatorioespecificado por los resultados desde algúnespacio muestral S, por los eventos definidossobre S, y por las probabilidades sobre estoseventos. Suponer que a cada resultado ∈ ,se asigna una función de tiempo de acuerdo a

alguna regla:




DefiniciónEl gráfico de la funciónX( , ) versus t, para fijo,es llamado una realización,trayectoria de la muestra, ola función de la muestra deun proceso aleatorio.

Así, se puede observar losresultados del experimentoaleatorio como laproducción de toda unafunción del tiempo como semuestra en la figura




DefiniciónPor otro lado, si un tiempo tk es fijado desde unconjunto de índices I, entonces X( , ) es unavariable aleatoria puesto que se está mapeandosobre números reales.Así, se ha creado (o ensamblado) una familia devariables aleatorias indexadas por el parámetro t,X , , ∈ . Esta familia es llamada un proceso

aleatorio, también referido como procesoestocástico.Usualmente se suprime y se usa X paradenotar a un proceso aleatorio.




Definición

Un proceso estocástico se dice que es discretoen el tiempo si el índice I es establecido comoun conjunto contable (i.e. el conjunto de

enteros o el conjunto de enteros nonegativos).Cuando se trata de procesos de tiempodiscreto, se suele utilizar n para denotar elíndice de tiempo y X para denotar el procesoaleatorio.




Definición

Un proceso estocástico de tiempo continuo esuno que I es continuo (i.e. la recta real o lalínea real no negativo ).




EjemploSea seleccionada aleatoriamente del intervalo [-1,1].Definir el proceso aleatorio continuo X( , ) por:

, = cos (2 ) , −∞ < < ∞

Las realizaciones de este proceso aleatorio sonsinusoides con amplitud .


Thisimagecannotcurrently bedispl ayed.



Ejemplo

Sea seleccionada aleatoriamente del intervalo [-, ] y dígase que:

, = cos (2 + ) , −∞ < < ∞

Las realizaciones de , son versionescambiadas de fase de cos (2 ) .




Ejemplo

La aleatoriedad en induce la aleatoriedad enla función observada , .

En principio, se puede deducir la probabilidadde eventos envolviendo un procesoestocástico en varios instantes de tiempo deprobabilidades envolviendo utilizando elmétodo de evento equivalente.




Trabajo en clase

Definir detalladamente 5 ejemplos deprocesos estocásticos.




Ejemplo

Conseguir las siguientes probabilidades para elproceso aleatorio




EjemploDada una secuencia binaria aleatoria, dígase

que es un número seleccionado aleatoriamentedel intervalo = [0,1] , y dígase 1 2 … son laexpansión binaria de :


El proceso aleatorio de tiempo discreto X(n, )es definido como :

Por lo tanto el proceso resultante es la secuenciade números binarios , con X(n, ) igual al nthnúmero en la expansión binaria de .



Definición

Una variable aleatoria es una regla paraasignar a cada resultado de un experimentoS un número x( ) . Así un proceso estocástico

es una familia de funciones en el tiempodependientes del parámetro oequivalentemente una función de t y .El dominio de es el conjunto de todos losresultados experimentales y el dominio de t esel conjunto R de números reales.




DefiniciónSi R es eje real, entonces x(t) es un proceso detiempo continuo .Si R es el conjunto de enteros, entonces x(t) es unproceso de tiempo discreto .Un proceso de tiempo discreto es así unasecuencia de variables aleatorias. Tal que unasecuencia será denotadas por x n o para evitardobles índices por x[n].Por lo tanto, se dice que x(t) es un proceso deestado discreto si sus valores son contables, deotra manera, es un proceso de estados continuos.




Estadísticas de procesosestocásticos

Un proceso estocástico es un infinito no contable devariables aleatorias, una para cada t. Para un t específico,x(t) es una variable aleatoria con distribución :


, = [ ( ) ≤ ]

Esta función depende de t, y es igual a la probabilidad del evento{ ( ) ≤ } consistente de todos los resultados tal que en eltiempo específico t, las muestras X , del proceso dado noexceden el número x. La función ( , ) será llamada distribucióndel primer orden del proceso .Su derivada con respecto a x es llamada la densidad de primerorden de .

, =( , )





Estadísticas de procesosestocásticos

Distribución de segundo orden del el proceso X(t)es la distribución conjunta:


, 2; , 2 = [ ( ) ≤ 1, ( 2) ≤ 2]

De la variable aleatoria X(t1) y X(t2). La densidadcorrespondiente es igual a:

, 2; , 2 =( , 2; , 2)

2

El distribución de orden nth de X(t) es la distribuciónconjunta F(x1,…,xn; t1,…tn) de las variables aleatoriasX(t1),…, X(tn)



Propiedades de segundo orden

Para la determinación de las propiedadesestadísticas de los procesos estocásticos,conocidos de la función F(x1,…,xn; t1,….,tn) es

requerido para cada xi,ti y n.Sin embargo, para cualquier aplicación, solociertos promedios son usados, en particular, elvalor esperado de x(t ) y de x 2(t). Estas cantidades

pueden ser expresadas en términos depropiedades de segundo orden de x(t) definidasde la siguiente manera:




Especificación de un procesoaleatorio

Hay muchas preguntas con respecto a los procesos aleatorios queno se puedan contestar con el sólo conocimiento de la distribuciónen un solo instante de tiempo.Por ejemplo, se podría estar interesado en la temperatura en unlugar dado en dos diferentes instantes de tiempo. Para ello se

requiere la siguiente información:


En otro ejemplo, el sistema de compresión de voz en un teléfonocelular predice el valor de la señal de voz en el próximo tiempo demuestreo basado en las k muestras anteriores.

Por lo tanto se puede estar interesado en el siguiente probabilidad:

Es claro que una descripción general de un proceso aleatorio debeproporcionar probabilidades para los vectores de muestras del proceso.



Distribuciones conjuntas demuestreos de tiempo

Dígase que X1, X2, …, Xk son las variables aleatorias k obtenidas pormuestrear el proceso aleatorio X(t, ) en el tiempo t1, t2, …, tk:


El comportamiento conjunto de los procesos aleatorios en estos kinstantes de tiempo es especificado por la distribución acumulada

conjunta del vector de variable aleatoria X1, X2, …, Xk.Las probabilidades de cualquier evento envolviendo el procesoaleatorio en todo o algunos de estos instantes de tiempo puedenser calculados desde la cdf usando métodos desarrollados paravariables aleatorias vectoriales.Así, un proceso estocástico es especificado por la colección defunciones de distribución acumulada conjuntas de kth orden:

Para cualquier k y cualquier elección de instantes de muestra t1, t2,…, tk:



Distribuciones conjuntas demuestreos de tiempo

Si el proceso estocástico es valorado continuo, entoncesuna colección de funciones de densidad de probabilidadpuede ser utilizado en lugar:


Si el proceso estocástico es valorado discreto, entonces unacolección de funciones de masas de probabilidad puedenser usadas para especificar el proceso estocástico:

Para cualquier k y cualquier instante de muestreo n1, …, nk



Funciones de media varianzaLa función media mx(t) y la función varianzaVAR[X(t)] de un proceso aleatorio continuo X(t)son definidas por:


Donde ( ) es la pdf de X(t).Note que y VAR[X(t)] son funciones determinísticas de

tiempo.Tendencias en el comportamiento de X (t) se reflejan en la variaciónde con el tiempo.La varianza da una indicación de la propagación de los valoresasumidos por X(t) en diferentes instantes de tiempo.



AutocorrelaciónLa autocorrelación RX(t1,t2) de un procesoaleatorio X(t) es definida con el momentoconjunto de X(t1) y X(t2)


Donde 1 , ( , ) es la pdf de segundo orden de X(t).En general, la autocorrelación es una función de t1 y t2.Note que , = [ ( )] , que corresponde a lapotencia promedio de X(t).



AutocovarianzaLa autocovarianza C X(t1,t2) de un procesoaleatorio X(t) es definida como la covarianza deX(t1) y X(t2):


La autocovarianza puede ser expresada entérminos de la autocorrelación y las medias:

Note que la varianza de X(t) puede serobtenida de C X(t1,t2):



Coeficiente de correlación

El coeficiente de correlación de X(t) es definidocomo el coeficiente de correlación de X(t1) yX(t2):


Recuerdee que el coeficiente de correlación es unamedida de hasta qué punto una variable aleatoriapuede ser predicha como una función lineal de otra



Media para caso discretoLa media y varianza de un proceso aleatorio en tiempodiscreto Xn son definidas como:




Funciones de autocorrelación yautocovarianza en tiempo discretoLas funciones de autocorrelación y autocovarianza deun proceso aleatorio de tiempo discreto son definidascomo sigue:


Recordar que las funciones de media, autocorrelación yautocovarianza son solamente descripciones parcialesde un proceso aleatorio.



Ejemplos




Procesos aleatorios múltiples

En muchas ocasiones se está interesado en másde un proceso aleatorio a la vez. Por ejemplo, sepuede estar interesado en las temperaturas en la

ciudad a, X(t) y ciudad b, Y(t).Otro ejemplo muy común trata sobre un procesoaleatorio X(t) que es la entrada a un sistema y

otro proceso aleatorio Y(t) que es la salida delsistema. Naturalmente se está interesado en lainterrelación entre X(t) y Y(t).




Procesos aleatorios múltiplesEl comportamiento conjunto de dos o mas procesosaleatorios es especificado por la colección dedistribuciones conjuntas para todas las posibleselecciones de muestras de tiempo de los procesos.

Así para un par de procesos aleatorios continuos X(t) yY(t) se especifica todas las posibles funciones dedensidad conjunta de X(t1), …, X(tk) y Y(t1’),…,Y(tj’)para todos los k, j y todas las elecciones de t1,…, tk yt1’,…, tj’.

De manera que la pdf conjunta sería:




Procesos aleatoriosindependientes

El proceso aleatorio X(t) y Y(t) se dicenprocesos aleatorios independientes si elvector de variables aleatorias X=(X(t1),…,

X(tk)) y Y=(Y(t1’),…, Y(tj’)) son independientespara todo k, j, y todas las elecciones de t1,…,tk y t1’,…, tj’:




Correlación cruzada

La relación cruzada , , 2 de X(t) y Y(t)es definida por:

, , 2 = [ ( 2)]




Procesos aleatorios ortogonales

El proceso aleatorio X(t) y Y(t) se dicenprocesos aleatorios ortogonales si:




Covarianza cruzada

La covarianza cruzada , , 2 de X(t) yY(t) se define por:


, , 2 = , , 2 − [ ( 2)]

, , 2 = { − ( )}{ 2 − ( 2)}



Procesos aleatorios nocorrelacionados

Los procesos aleatorios X(t) y Y(t) se dicenprocesos aleatorios no correlacionados si:




Ejemplos




Procesos de tiempo discreto.


P l t i di t ib id idé ti t



Procesos aleatorios distribuidos idénticamenteindependientes (iid).

Dígase Xn es un proceso aleatorio de tiempodiscreto consistente de una secuencia devariables aleatorias distribuidas idénticamente

independientes (iid) con cdf común Fx(x),media m y varianza . La secuencia Xn esllamada proceso aleatorio iid.




CDF conjunta

La cdf conjunta para cualquier instante de tiempon1,…, nk es dada por :


Donde Xk por simplicidad se denota como .



La media (iid)

La media de un proceso iid se obtiene de lasiguiente manera:


De tal manera que la media es constante.



La función autocovarianza

La función autocoarianza es obtenida comosigue, si 1 ≠ .


Dado que y son independientes. Si

1 = = , entonces:



La función autocovarianza

Se puede expresar la autocovarianza de los procesos iidde manera compacta de la siguiente manera:


Donde = 1 si 1 = y 0 en otro caso.Por lo tanto la función autocavarianza es cero en todaspartes excepto para 1 = .



La función autocorrelación

La función autocorrelación de un proceso iidse obtiene como:







Procesos de suma

Muchos procesos aleatorios interesantes seobtienen como la suma de una secuencia devariables aleatorias iid, X1, X2, …:


Donde So=0. De manera que se define a Sncomo el proceso de suma.



Procesos de Poisson

Considere un evento en que ocurre eninstantes aleatorios de tiempo a una velocidadpromedio de eventos por segundo.

De esta manera un evento podría representarel arribo de un cliente a una estación deservicio







Procesos aleatorios estacionarios

Muchos procesos aleatorios tienen la propiedad de que lanaturaleza de la aleatoriedad en el proceso no cambia conel tiempo.Una observación del proceso en el intervalo de tiempo(to,t1) muestra el mismo tipo de comportamiento aleatorioque la observación en algún otro intervalo de tiempo (to+

, t1+ ).De esta manera se dice que la probabilidad de muestras delproceso no depende del instante cuando se inicia a tomarlas observaciones, esto es, las probabilidades queinvolucran la toma de muestras en tiempos t1,…,tk nodifieren de otras tomadas en t1+ , …, tk+




Promedios de tiempo

Para estimar la media de mx(t) de un procesoaleatorio ( , ) , se repite el experimentoaleatorio y toma el siguiente promedio:


Donde N es el número de repeticiones del

experimento y ( , ) es la realizaciónobservada en la ith repetición.



Promedios de tiempo

En algunas situaciones se está interesado enestimar la media o función autocorrelación delpromedio de tiempo de una realización

simple, esto es:




Teorema de ergodicidad

Un teorema ergódico establece condicionesbajo qué un promedio de tiempo converge amedida que el intervalo de observación se

hace grande.Se está interesado en teoremas ergódicos queestablezcan cuando los promedios de tiempo

convergen al media del conjunto (valoresperado).





Se establece que si Xn es un proceso aleatorio detiempo discreto iid con media finita E[Xn]=m, entoncesel promedio de tiempo de las muestras converge a lamedia del conjunto con probabilidad uno:


Este resultado permite estimar m tomando el promedio detiempo de una realización simple del proceso.Se está interesado en obtener resultados de este tipo paraclases grande de procesos aleatorios, esto es, para procesosaleatorios de tiempo discreto no iid y para procesosaleatorios de tiempo continuo.



Teorema de ergodicidad: Ejemplo

Dígase X(t)=A para todo t, donde A es una variablealeatoria de varianza unitaria y media cero.Conseguir el valor de tiempo promedio.


La media del proceso

El promedio en el tiempo es:

El promedio en el tiempo no siempre converge a = 0 .No te que este proceso es estacionario.Así el proceso puede ser estacionario pero no necesita ser ergódico.




Dígase X(t) es un proceso WSS con = ,entonces


en el sentido cuadrado medio, si y solamente si:

En consonancia con el uso de la ingeniería, sedice que un proceso WSS es ergódico medio sisatisface las condiciones del presente teorema.




Estimado del promedio en el tiempo de la funciónautocorrelación del proceso Y(t).Reemplazando X(t) con Y(t+ )Y(t), se obtiene unpromedio en el tiempo estimado para la función

autocorrelación del proceso Y(t):

Documents

Procesos estocasticos espol