Procesos Estocasticos Parte 1 y 2

1

Procesos y variables aleatorias

Roberto Carlos Hincapié

[email protected]

Programa

� Introducción

� Probabilidad (8 hrs)

� Variables aleatorias (4 hrs)

� Procesos estocásticos (4 hrs)

� Procesos Markovianos (8 hrs)

2

Evaluación

� Examen 1: 25% Probabilidades

� Examen 2: 25% Variables aleatorias,

procesos estocásticos

� Examen final: 25% Cadenas de Markov

� Tareas: 25%

Introducción

� Las medidas que se realizan en el mundo real son aleatorias.

� No es posible conocer el resultado de la medida antes de realizarlo.

� Se requieren herramientas para tomar decisiones en condiciones de aleatoriedad o incertidumbre.

� La probabilidad es una información que puede ser conocida con antelación.

3

Capitulo 1

Probabilidad

Experimentos

� Supongamos un proceso de medición de alguna cantidad. A esta medida la llamaremos un experimento. Por ejemplo:

1. El número de personas que ingresan a un banco por hora

2. El resultado del lanzamiento de un dado

3. La duración de una llamada telefónica

4. El número de clientes que llegan a solicitar puesto a un restaurante en la hora del almuerzo

4

Espacio Muestral

� El conjunto de todos los resultados posibles del experimento, se denomina un espacio muestral. Los elementos que constituyen el espacio muestral se denominan puntos muestrales.

1. El número de personas que ingresan a un banco por hora. S1={0,1,2,3,…}

2. El resultado del lanzamiento de un dado. S2={1,2,3,4,5,6}

3. La duración de una llamada telefónica. S3=[0,inf). 4. El número de clientes que llegan a solicitar puesto

a un restaurante en la hora del almuerzo. S4={0,1,2,3,…}

Evento

� Definimos un evento, como un subconjunto del espacio muestral. Este subconjunto puede ser de un único elemento, puede ser de varios puntos muestrales, etc.

1. S1={0,1,2,3,…}, e1={0,1,2}, e2={4}, e3={4,5,6}.

2. S2={1,2,3,4,5,6}, e1={2,4,6}, e2={1,3,5}, e3={1}.

3. S3=[0,inf), e1=[0,10min], e2=[5min,10min]

5

Tipos de eventos

� Los eventos pueden ser:

� Simple: conformado por un único punto muestral

� Compuesto: conformado por varios puntos muestrales

� Vacío (Φ): que no contiene ningún punto muestral

� Universal (S): que contiene todo el espacio muestral

� Suma o unión: conformada por los puntos que pertenecen a dos o mas eventos.

� Producto o intersección: conformado por los puntos que pertenecen simultáneamente a dos o mas eventos.

� Excluyentes: Dos eventos son excluyentes si su intersección es el evento vacío

� Complemento (A): El complemento de un evento es los puntos muestrales de S que no pertenecen al evento.

Probabilidad

� La probabilidad es una cantidad numérica asociada a un evento.

� Existen dos interpretaciones para la probabilidad:

� Interpretación frecuentista

� Interpretación axiológica

6

Probabilidad

Interpretación frecuentista:

� La probabilidad de un evento representa la frecuencia relativa de ocurrencia de un evento respecto a los experimentos realizados.

� Por ejemplo para el lanzamiento de una moneda:

� S={cara, sello}, e1={cara}

� Pr{e1}=0.5

Probabilidad


� Pr{e1}=0.5

� Lo anterior se interpreta como:

� Si se lanzara 100 veces la moneda, aproximadamente 50 veces cae cara.

� Si se lanzara 100.000 veces la moneda, aproximadamente 50.000 veces cae cara.

7

Probabilidad


� Para el número de personas que ingresan a un banco en una hora,

� S={0,1,2,3,…}, e={0,1,2,3}

� Pr{e}=0.8

� Cómo se puede interpretar esto?

Probabilidad

Interpretación axiológica:

� La probabilidad es una cantidad asociada a los eventos que cumple con ciertos axiomas y propiedades

� Axiomas de probabilidad (Kolmogorov)

{ }{ }

{ } { }∑∑ ===

Φ=∩

=

≥

N

1i i

N

1i i

ji

i

APrAP

;AA

A sexcluyente eventos N de conjuntoun Para)iii

1SP)ii

0AP)i

8

Probabilidad


� Propiedades de la probabilidad

{ }{ }

{ } { }{ } { }

{ } { } { } { }{ } { } { }BPAPBAP,BASi

BAPBPAPBAP)v

BPAP,BASi)iv

AP1AP)iii

1AP0)ii

0P)i

+=∪Φ=∩

∩−+=∪

≤⊆

−=

≤≤

=Φ

Probabilidad



n,...,2,1i,n

1}Pr{A

:con cumple les,equiprobaby exaustivos

s,excluyente eventos den 1,2,...,i ,A conjuntoUn )vi

i

i

=∀=

=

9

Probabilidad



� Ley de los grandes números:

� Suponga un conjunto de N ensayos o experimentos. Sea NA el número de ensayos con un resultado en el evento A. Entonces:

� El resultado anterior corresponde a la interpretación frecuentista vista anteriormente.

Pr{A}N

NLim)vii A

N→

∞→

Cálculo de las probabilidades

� Las propiedades anteriores se pueden utilizar para calcular las probabilidades de diferentes eventos.

� El caso mas sencillo es el cálculo de la probabilidad de eventos equiprobables.

1. Conocido el tamaño del espacio muestral, la probabilidad de cada evento simple es conocida.

2. Un evento se define como la unión de varios puntos simples.

3. La probabilidad de cualquier evento es la probabilidad de un evento simple multiplicada por el tamaño del evento.

4. Lo anterior equivale a Pr{A}=|A|/|S|

10


Ejemplo 1.

� Hallar la probabilidad de que al lanzar al aire dos monedas, salgan: a) Dos caras, b) Dos sellos, c) Una cara y un sello.

Ejemplo 2

� Se lanzan dos dados al aire y se anota la suma de los puntos obtenidos. Se pide: a) La probabilidad de que salga el 7, b) La probabilidad de que el número obtenido sea par, c) La probabilidad de que el número obtenido sea múltiplo de tres.


Tarea No. 1

� Suponga un experimento consistente transmitir 5 bits mas un bit de paridad. El bitde paridad se calcula por medio de la suma modulo 2 de los otros 5 bits transmitidos. Encuentre la probabilidad de que el bit de paridad sea 1.

11

Técnicas de conteo

� El problema del método anterior es el cálculo del tamaño del espacio muestral o su declaración explícita cuando este es muy grande.

� Ejemplo: Una línea de ferrocarril tiene 25 estaciones. ¿Cuántos billetes diferentes habrá que imprimir si cada billete lleva impresas las estaciones de origen y destino?

� Debe existir alguna metodología para calcular el tamaño sin escribir el espacio muestral.

� Dichas técnicas se conocen como técnicas de conteo.

Técnicas de conteo

� Se van a estudiar dos técnicas de conteo

� Formula general de conteo - Selección

� Permutaciones y combinatorias

� La utilización de cada una de ellas depende del tipo de espacio muestral a construir.

12

Técnicas de conteo

Formula general de conteo:

� Si el un punto del espacio muestral se construye seleccionando una secuencia de m valores X1, X2, … Xm y el número de formas de obtener cada uno de ellos es n1, n2, … nm, el tamaño del espacio muestral es:

� |S|= n1 n2 n3 …nm

� Ejemplo: Encontrar el número total de licencias de carros particulares que se pueden crear en Colombia.

Técnicas de conteo

Selección:

� Si el un punto del espacio muestral se construye seleccionando una secuencia de m valores X1, X2, … Xm y cada valor se selecciona de un conjunto de valores de tamaños n1, n2, … nm, el tamaño del espacio muestral es:

� |S|= n1 n2 n3 …nm

� El criterio importante es garantizar que los valores de cada conjunto se seleccionan independientemente de los otros conjuntos. Esto también se reconoce como una extracción de elementos con reemplazo.

� Ejemplo: Cual es el tamaño del espacio muestral si se lanzan 4 dados simultáneamente?

13

Técnicas de conteo

� En las permutaciones y combinatorias, se eligen los diferentes puntos del espacio muestral, desde un único conjunto sin reemplazo.

� Suponga por ejemplo, que se tienen 10 personas y se desea extraer un grupo de 3 de ellas. Al extraer la primera, quedan 9, etc. Esta es la diferencia fundamental respecto a la selección.

Técnicas de conteo

� La permutación considera que el orden en que se extraen los elementos es importante.

� La combinatoria considera que el orden en que se extraen los elementos NO es importante.

� Si el grupo original cuenta con N elementos y se extrae un subgrupo de n elementos, el número de formas diferentes de hacerlo es:

Permutación Combinatoria

( )!nN

!NPN

n−

=( ) !n!nN

!N

n

N

⋅−=

14

Técnicas de conteo

� Ejemplo 3: Una línea de ferrocarril tiene 25 estaciones. ¿Cuántos billetes diferentes habrá que imprimir si cada billete lleva impresas las estaciones de origen y destino?

� Ejemplo 4: Un alumno tiene que elegir 7 de las 10 preguntas de un examen. a) ¿De cuántas maneras puede elegirlas? b) ¿Y si las 4 primeras son obligatorias?

� Ejemplo 5: En un hospital se utilizan cinco símbolos para clasificar las historias clínicas de sus pacientes, de manera que los dos primeros son letras y los tres últimos son dígitos. Suponiendo que hay 25 letras, ¿cuántas historias clínicas podrán hacerse si: a) no hay restricciones sobre letras y números, b) las dos letras no pueden ser iguales?

Ejercicios propuestos

� En una clase de 10 alumnos van a distribuirse 3 premios. Averiguar de cuantos modos puede hacerse si: a) los premios son diferentes; b) los premios son iguales. En todos los casos, una persona no puede recibir más de un premio.

� A partir de 5 matemáticos y 6 físicos hay que constituir un grupo de 2 matemáticos y 3 físicos. ¿De cuántas formas podrá hacerse si: a) todos son elegibles, b) un físico particular ha de estar en esa comisión, c) dos matemáticos concretos no pueden estar juntos?

� Tres personas, A, B, C, juegan lanzando una moneda cada una al dar una señal, y comparan los resultados. Gana el jugador cuya moneda cae en posición distinta de la de los otros dos; si las tres monedas caen en la misma posición, se repite el lanzamiento hasta que una sea diferente. a) Suponiendo que no se hacen trampas y que se usan monedas equilibradas, calcule la probabilidad de que el primer jugador gane. b) Cuál es la probabilidad de que empaten?

15


� Cuando los eventos no son equiprobables, es necesario recurrir a otras técnicas para poder calcular la probabilidad de los puntos muestrales.

� Suponga que los puntos del espacio muestral se construyen seleccionando un conjunto de valores, pero cada valor tiene una cierta probabilidad.

� Se utiliza un diagrama de árbol para construir la probabilidad completa de los puntos muestrales.

� Cada nivel del árbol corresponde a una selección. Las ramas del árbol corresponden a probabilidades y la probabilidad de un punto corresponde al producto de las ramas desde el origen hasta la última selección.


� Ejemplo 6: Una universidad tiene tres facultades, con el 50%, el 25% y el 25% de estudiantes. En cada facultad, el 60% de los estudiantes es mujer y el resto hombres. Encontrar el espacio muestral y las probabilidades de cada punto muestral.

� S={(f1,m), (f1,h), (f2,m), (f2,h), (f3,m), (f3,h)}

16


� Para calcular las probabilidades, creemos el diagrama de árbol

(f1,m), Pr{(f1,m)}=0.30

(f1,h), Pr{(f1,h)}=0.20

(f2,m), Pr{(f2,m)}=0.15

(f2,h), Pr{(f2,h)}=0.10

(f3,m), Pr{(f3,m)}=0.15

(f3,h), Pr{(f3,h)}=0.10



(f1,m), Pr{(f1,m)}=0.30

(f1,h), Pr{(f1,h)}=0.20

(f2,m), Pr{(f2,m)}=0.15

(f2,h), Pr{(f2,h)}=0.10

(f3,m), Pr{(f3,m)}=0.15

(f3,h), Pr{(f3,h)}=0.10

17



(f1,m), Pr{(f1,m)}=0.30

(f1,h), Pr{(f1,h)}=0.20

(f2,m), Pr{(f2,m)}=0.15

(f2,h), Pr{(f2,h)}=0.10

(f3,m), Pr{(f3,m)}=0.15

(f3,h), Pr{(f3,h)}=0.10



(f1,m), Pr{(f1,m)}=0.30

(f1,h), Pr{(f1,h)}=0.20

(f2,m), Pr{(f2,m)}=0.15

(f2,h), Pr{(f2,h)}=0.10

(f3,m), Pr{(f3,m)}=0.15

(f3,h), Pr{(f3,h)}=0.10

18


Tarea 2� En un sobre hay 20 papeletas, ocho llevan

dibujado un carro y las restantes son blancas. Hallar la probabilidad de extraer al menos una papeleta con el dibujo de un coche: a) Si se saca una papeleta, b) Si se extraen dos papeletas, c) Si se extraen tres papeletas.

� Un noble frances (Antoine Gombauld) planteó la siguiente apuesta: Al lanzar un dado 4 veces, por lo menos una de las veces el resultado sería igual a 6. Calcule la probabilidad de ganar la apuesta. ESTE NO

Probabilidad de eventos compuestos

� Los eventos compuestos se construyen a partir de la unión o intersección de otros eventos.

� La unión de eventos incluye todos los elementos que pertenecen a cualquiera de los eventos:

� S={0,1,2,3,4,…}, e1={0,1,2,3}, e2={2,3,4,5}

� e1Ue2={0,1,2,3,4,5}

19


� El problema es el cálculo de la probabilidad. En forma general:

� Un error muy común es suponer que eventos son excluyentes cuando en realidad no lo son.

� Retomar el ejemplo del noble Francés.

{ } { } { } { }{ } { } { }BPAPBAP,BASi

BAPBPAPBAP

+=∪Φ=∩

∩−+=∪


� La intersección de eventos incluye solamente los elementos que pertenecen a todos los eventos que se intersectan:

� S={0,1,2,3,4,…}, e1={0,1,2,3}, e2={2,3,4,5}

� e1∩e2={2,3}

� La forma general de calcular esta intersección depende del concepto de probabilidad condicional que se estudiará pronto. Si dos eventos son excluyentes, la probabilidad de su intersección es cero.

� Si dos eventos son independientes, es decir, no existe relación entre las probabilidades de ocurrencia,

{ } { } { }BPAPBAP =∩

20


� Ejemplo 7: Dos hermanos salen de caza. El primero mata un promedio de 2 piezas cada 5 disparos y el segundo una pieza cada 2 disparos. Si los dos disparan al mismo tiempo a una misma pieza, ¿cuál es la probabilidad de que la maten?

� Ejemplo 8: En una asignatura se ha decidido aprobar a aquellos que superen uno de los dos parciales. Con este criterio aprobó el 80%, sabiendo que el primer parcial lo superó el 60% y el segundo el 50% ¿Cuál hubiese sido el porcentaje de aprobados, si se hubiese exigido superar ambos parciales?

Probabilidad condicional

� La probabilidad asociada a un evento mide la ocurrencia relativa del evento, respecto al espacio muestral.

� En ocasiones es importante encontrar la probabilidad respecto a un subconjunto del espacio muestral, por ejemplo:

� La probabilidad de que un paciente de urgencias quede hospitalizado es respecto a todos los pacientes de urgencias. La probabilidad de que los pacientes de urgencias que son atendidos por una dolencia cardíaca queden hospitalizados, es diferente.

21


Ingresan N personas

Ingresan N2 personas con afectación cardíaca

Salen a hospitalización n personas

Salen a hospitalización n2

personas que tenían afectación cardíaca


Ingresan N personas

Ingresan N2 personas con afectación cardíaca

Salen a hospitalización n personas

Salen a hospitalización n2

personas que tenían afectación cardíaca

Pr{hospitalización}=n/N

Pr{hospitalización2}=n2/N2

22


� El ejemplo anterior, el caso 2 calcula la probabilidad no respecto al espacio muestral, sino a un subconjunto (evento) de éste.

� El subconjunto al que se reduce el espacio muestral, se puede nombrar como el evento B.

� El evento original, se denomina el evento A,

� La probabilidad calculada se conoce como la probabilidad condicional de A dado B.


� Supongamos por ejemplo el experimento de lanzar dos dados, y el evento de que la suma de las caras sea igual a 10 o mas.

� S={(1,1), (1,2), (1,3), …, (6,6)}, |S|=36

� A={(4,6),(5,5),(5,6),(6,4),(6,5),(6,6)} |A|=6

� Pr{A}=6/36=1/6

� Ahora supongamos que reducimos el análisis a los lanzamientos en los cuales, el primer dado tiene un resultado igual a 5.

23


� En este caso, el espacio muestral se reduce al siguiente:

� S*={(5,1), (5,2), (5,3), (5,4), (5,5), (5,6)}

� Y encontremos de nuevo la probabilidad del evento A, pero limitado a este subconjunto de S.

� A*={(5,5), (5,6)}

� Así, la probabilidad de A* es

� Pr{A*}=2/6=1/3


� Obsérvese que las probabilidades son diferentes, pues la referencia de espacio muestral cambia. En ese caso, se dice que la probabilidad de A* se calcula respecto al subconjunto S* de S.

� Si usted recuerda que el subconjunto de S es un evento, podemos llamar a S* simplemente B.

� Decimos que en este caso, calculamos la probabilidad de A dado B o respecto a B.

24


� La probabilidad condicional se calcula como:

� Repasemos la expresión anterior para el problema de ejemplo

{ } { }{ }BP

BAPB|AP

∩=


� A={(4,6),(5,5),(5,6),(6,4),(6,5),(6,6)} |A|=6

� Pr{A}=1/6

� B={(5,1), (5,2), (5,3), (5,4), (5,5), (5,6)}

� Pr{B}=1/6

� A∩B={(5,5), (5,6)}

� Pr{A∩B}=1/18

� Pr{A|B}=Pr{A∩B}/Pr{B}=(1/18)/(1/6)=1/3

25


� La probabilidad condicional, es la misma probabilidad vista anteriormente, pero reduciendo el espacio muestral a un subconjunto del mismo.

� El valor de la probabilidad condicional permite definir la dependencia e independencia de eventos.

� Dos eventos son independientes, si se cumple cualquiera de las tres condiciones siguientes:

{ } { }{ } { }{ } { } { }BPAPBAP

BPA|BP

APB|AP

⋅=∩

=

=


� Ejemplo 9: � Una moneda es lanzada 3 veces. Considere los

eventos siguientes:� Obtener cara en el primer lanzamiento� Obtener sello en el segundo lanzamiento� Obtener cara en el tercer lanzamiento� Obtener el mismo resultado (cara o sello) en todos los tres

lanzamientos.� Obtener mas resultados cara que sello.

� Cuales de los siguientes pares de eventos son independientes?

� a) a y b, b) a y d, c) a y e, d) d y e.

26

Cuidado!!!

� Existen dos errores comunes en el trabajo con probabilidades

� Suponer eventos excluyentes cuando no lo son.

� Suponer eventos independientes cuando en realidad son dependientes.

� Por ejemplo, dos eventos excluyentes son independientes?

{ } { } { }BPAPBAP +=∪

{ } { } { }BPAPBAP ⋅=∩

Teorema de la probabilidad total

� Supongamos que el espacio muestral S puede dividirse en n eventos excluyentes B1, B2, B3, … Bn. Estos eventos constituyen una partición de S.

S

A

B1

B6

B2 B3

B5

B4

27



S

A

B1

B6

B2 B3

B5

B4

{ }1BAP ∩



� El teorema de la probabilidad total indica que la probabilidad de cualquier evento A, se puede escribir como:

{ } { } { } { }n21 BAPr...BAPrBAPrAPr ∩++∩+∩=

28


� Lo anterior es equivalente a:

� La expresión anterior, se conoce como el teorema de la probabilidad total y se expresa de manera mas compacta como:

{ } { } { } { }{ } { } { } { } { } { }nn2211

n21

BPrB|APr...BPrB|APrBPrB|APr

BAPr...BAPrBAPrAPr

+++=

∩++∩+∩=

{ } { } { }∑=

=n

1i

ii BPrB|APrAPr


Ejemplos 10 y 11

� En un cierto país, el 60% de los votantes son del partido A, el 30% de un partido B y el 10% son independientes. De las personas del partido A, el 40% se opone a cierta ley. Del partido B el 65% se oponen a dicha ley y del partido C, se oponen el 55%. Una persona elegida al azar, que probabilidad tiene de oponerse a la ley?

� Suponga que en un canal de comunicación binario, no simétrico, la probabilidad de recibir un “uno”incorrectamente es 0.1 y la probabilidad de recibir un “cero” incorrectamente es 0.05. Si la transmisión de símbolos es equiprobable, cuál es la probabilidad de recibir un bit cualquiera correctamente?

29

Teorema de Bayes

� El teorema de la probabilidad total, se utiliza para transformar las probabilidades condicionales conocidas como a-priori, en probabilidades a-posteriori.

� Esto es: { }

{ }{ }

{ } { }

{ } { }∑=

=

∩=

n

1i

ii

ii

ii

APrA|BPr

APrA|BPr

BPr

BAPrB|APr

Teorema de Bayes

� Ejemplo 12:

� Un sistema hidráulico falla con probabilidad 0.6 si la temperatura del aire es menor o igual a 0°C. La probabilidad de que la temperatura del aire sea menor o igual a 0°C es 0.08. La probabilidad de que el sistema falle si la temperatura es superior a 0°Ces 0.01. Cuál es la probabilidad de que el sistema falle?

� En el problema anterior, si el sistema falla, cuál es la probabilidad de que la temperatura sea inferior a 0°C?

30

Teorema de Bayes

Tarea 3:

� Suponga un examen médico. El 1% de la población estáenfermo y el 99% esta sano. Si el examen se aplica a una persona sana, la probabilidad de fallar en el diagnóstico es 0.01 y de acertar es de 0.99. Si el examen se aplica a una persona enferma, la probabilidad de fallar en el diagnóstico es 0.01 y de acertar es de 0.99.

� Suponga que a un paciente, el resultado del examen es positivo (tiene la enfermedad), cuál es la probabilidad de que esté enfermo?

� Suponga que a un paciente, el resultado del examen es negativo (no tiene la enfermedad), cuál es la probabilidad de que esté realmente sano?

CASO DE USO 1

� La probabilidad condicional y el teorema de Bayes se utilizan para construir un receptor de señales digitales.

� Suponga una fuente que transmite dos símbolos para representar el 0 o el 1.

� El receptor recibe una señal que es una copia de la señal transmitida mas interferencia, ruido, etc.

31

CASO DE USO 1

� Si el ruido y la interferencia son aleatorios, la señal recibida es aleatoria.

� El receptor, desea calcular la probabilidad:

{ }rSi

recibió se| envía FuentePr

CASO DE USO 1

� Aplicando el teorema de la probabilidad total y algo de Bayes, encontramos la siguiente expresión

{ }{ }

{ }{ } { }

{ }r

SSr

r

rS

rS

ii

i

i

recibió sePr

envía FuentePr envía Fuente| recibió sePr

recibió sePr

recibió se envía FuentePr

recibió se| envía FuentePr

⋅=

∩=

32

CASO DE USO 1

� Si se supone que los símbolos son equiprobables, y que para cualquier símbolo, la probabilidad de recibir r es la misma, el problema se reduce a encontrar el símbolo i que maximice la probabilidad siguiente:

� El receptor anterior se conoce como el receptor de máxima verosimilitud.

� Equivale a encontrar el símbolo mas cercano al símbolo recibido. Este es el criterio que maximiza la probabilidad de que se reciba el símbolo correcto.

{ }i

Sr envía Fuente| recibió sePr

Capitulo 2

Variables aleatorias

33


� Supongamos un experimento cualquiera con un espacio muestral S. En S se pueden definir un conjunto de eventos e1, e2, e3, etc.

� Supongamos una relación que asigna un número a un cierto evento en S. El número es representado por una variable X.

� Para explicar el concepto, supongamos el lanzamiento de dos dados de 6 caras.

� S={(1,1), (1,2), (1,3), (1,4), (1,5), (1,6), (2,1), (2,2), (2,3), (2,4), (2,5), (2,6), (3,1), (3,2), (3,3), (3,4), (3,5), (3,6), (4,1), (4,2), (4,3), (4,4), (4,5), (4,6), (5,1), (5,2), (5,3), (5,4), (5,5), (5,6), (6,1), (6,2), (6,3), (6,4), (6,5), (6,6) }


� Para el espacio muestral definido por:

� S={(x,y) | x∈{1,2,…,6}, y∈{1,2,…,6} }

� Podemos definir varias variables aleatorias como:

� X1=x+y

� X2=max(x,y)

� X3=x*y

34


(6,6)(6,5)(6,4)(6,3)(6,2)(6,1)

(5,6)(5,5)(5,4)(5,3)(5,2)(5,1)

(4,6)(4,5)(4,4)(4,3)(4,2)(4,1)

(3,6)(3,5)(3,4)(3,3)(3,2)(3,1)

(2,6)(2,5)(2,4)(2,3)(2,2)(2,1)

(1,6)(1,5)(1,4)(1,3)(1,2)(1,1)

12

11

10

9

8

7

6

5

4

3

2

X1X1=x+y


(6,6)(6,5)(6,4)(6,3)(6,2)(6,1)

(5,6)(5,5)(5,4)(5,3)(5,2)(5,1)

(4,6)(4,5)(4,4)(4,3)(4,2)(4,1)

(3,6)(3,5)(3,4)(3,3)(3,2)(3,1)

(2,6)(2,5)(2,4)(2,3)(2,2)(2,1)

(1,6)(1,5)(1,4)(1,3)(1,2)(1,1)

6

5

4

3

2

1

X1

X2=max(x,y)

35


� El resultado de un experimento es aleatorio, por lo tanto, el resultado de la variable X que resulta es también aleatorio. La variable X se denomina una variable aleatoria.

� Al realizar un experimento, se obtiene un número que pertenece a algún valor de la variable X.

� Tal como a los eventos se puede asociar una probabilidad, a las variables aleatorias se pueden asignar probabilidades.

� Si la V.A. es discreta, se puede encontrar una función de masa de probabilidad. Si la V.A. es continua, se puede encontrar una función de densidad de probabilidad.


(6,6)(6,5)(6,4)(6,3)(6,2)(6,1)

(5,6)(5,5)(5,4)(5,3)(5,2)(5,1)

(4,6)(4,5)(4,4)(4,3)(4,2)(4,1)

(3,6)(3,5)(3,4)(3,3)(3,2)(3,1)

(2,6)(2,5)(2,4)(2,3)(2,2)(2,1)

(1,6)(1,5)(1,4)(1,3)(1,2)(1,1)

12

11

10

9

8

7

6

5

4

3

2

X1X1=x+y

1/36

2/36

3/36

4/36

5/36

6/36

5/36

4/36

3/36

2/36

1/36

Probabilidad

36


� En el caso de la variable aleatoria X1, se define la función de probabilidad PX1(x), la cual define la probabilidad de un valor x de la variable aleatoria X1.

2 3 4 5 6 7 8 9 10 11 12

1/36

2/36

3/36

4/36

5/36

6/36

Variable aleatoria X1

Pro

babili

dad P

X1

(X)


(6,6)(6,5)(6,4)(6,3)(6,2)(6,1)

(5,6)(5,5)(5,4)(5,3)(5,2)(5,1)

(4,6)(4,5)(4,4)(4,3)(4,2)(4,1)

(3,6)(3,5)(3,4)(3,3)(3,2)(3,1)

(2,6)(2,5)(2,4)(2,3)(2,2)(2,1)

(1,6)(1,5)(1,4)(1,3)(1,2)(1,1)

6

5

4

3

2

1

X1

X2=max(x,y)

11/36

9/36

7/36

5/36

3/36

1/36

Probabilidad

37


� En el caso de la variable aleatoria X2, se define la función de probabilidad PX2(x), la cual define la probabilidad de un valor x de la variable aleatoria X2.

1 1.5 2 2.5 3 3.5 4 4.5 5 5.5 6

1/36

3/36

5/36

7/36

9/36

11/36

Variable aleatoria X2

Pro

babili

dad P

X2

(X)


� Tarea 4

� Para la variable aleatoria X3 definida anteriormente, encuentre la función de probabilidad Px3(x)

38


� Cuando el espacio muestral es continuo, la variable aleatoria se define usualmente como continua.

� Para una variable aleatoria continua, no se define una función de probabilidad, sino una función de densidad de probabilidad. Esta función se utiliza para encontrar la probabilidad de un evento.

� En los espacios muestrales continuos, los eventos son definidos por medio de intervalos.


� Tomemos como ejemplo la duración de una llamada. El espacio muestral sería:

� S3=[0,inf), e1=[0,10min], e2=[5min,10min]

0 1 2 3 4 5 6 7 8 9 10 11 t

Evento e1

Evento e2

39


� La probabilidad del evento e1=[0,10min], se calcula como el área bajo la curva de la función de densidad de probabilidad

0 5 10 150

0.05

0.1

0.15

0.2

0.25

Variable aleatoria t

Func

ión d

e d

ensid

ad d

e P

robabili

dad f

T(t

)


� La probabilidad del evento e1=[0,10min], se calcula como el área bajo la curva de la función de densidad de probabilidad

Evento e1

0 5 10 150

0.05

0.1

0.15

0.2

0.25


Funció

n d

e d

ensid

ad d

e P

robabili

dad f

T(t

)

40


� La probabilidad del evento e2=[5min,10min], se calcula como el área bajo la curva de la función de densidad de probabilidad

Evento e2

0 5 10 150

0.05

0.1

0.15

0.2

0.25


Func

ión d

e d

ensid

ad d

e P

robabili

dad f

T(t

)


� Definamos una variable aleatoria T como la duración de la llamada.

� La probabilidad del evento e1, se puede escribir como:

� La probabilidad del evento e2, se puede escribir como:

{ } ∫ ⋅=≤≤min10

0

T dt)t(fmin10T0Pr

{ } ∫ ⋅=≤≤min10

min5

T dt)t(fmin10Tmin5Pr

41

Valor esperado de variables aleatorias

� El valor esperado corresponde al promedio ponderado de una función de la variable aleatoria X.

� El promedio ponderado depende de la probabilidad.

� Por ejemplo, el 90% de un grupo de estudiantes obtiene 2.0 en un examen. El 10% obtiene 5.0. La nota promedio del examen no es 3.5, sino 0.9*2+0.1*5=2.3


� El valor esperado de una variable aleatoria discreta, está dado por:

� El valor esperado de una variable aleatoria continua, está dado por:

( )∑=

==N

1k

kXk xPxX)X(E

∫∞

∞−

⋅⋅== dx)x(fxX)X(E X

42


� En forma general, se puede calcular el valor esperado de cualquier función de la variable aleatoria X, dada por g(X)

( )( ) ( ) ( ) ( )∑=

==N

1k

kXk xPxgXgXgE

( )( ) ( ) ( )∫∞

∞−

⋅⋅== dx)x(fxgXgXgE X


Ejemplo 13:

� En un sistema de atención de clientes, se cuenta con 3 operadores. Los clientes que tiene el sistema son 5, y pueden llegar a hacer una consulta con una probabilidad de 0.5 cada hora. Si un cliente es atendido, se obtiene una ganancia $300. Si un cliente no es atendido, se tiene una pérdida $150. Cuanto es la ganancia promedio del sistema?

43


� Existen ciertas funciones de las V.A. que son comunes en los modelos estadísticos. Sus valores esperados son conocidos como la media, la desviación estándar y la varianza

( ) ( )( ) ( )

( ) ( ) ( )( ) ( )

( ) ( )

( ) ( )∑

∑

∑

=

=

=

−=σ

−=σ

σ==−=

⋅===

N

1k

kX

2

k

N

1k

kX

2

k

2

2

2

2

2

N

1k

kXk11

xPXx

xPXx

XVarXgE;XXXg

xPxXXgE;XXg


� Existen ciertas funciones de las V.A. que son comunes en los modelos estadísticos. Sus valores esperados son conocidos como la media, la desviación estándar y la varianza

( ) ( )( ) ( )

( ) ( ) ( )( ) ( )

( ) ( )

( ) ( )∫

∫

∫

∞

∞−

∞

∞−

∞

∞−

⋅⋅−=σ

⋅⋅−=σ

σ==−=

⋅⋅===

dxxfXx

dxxfXx

XVarXgE;XXXg

dxxfxXXgE;XXg

X

2

X

22

2

2

2

2

X11

44

Probabilidad acumulada

� La función de probabilidad acumulada evalúa la probabilidad de la variable aleatoria acumulada hasta un cierto valor x.

∑=

=N

1k

kNX x)x(F

∫∞−

µ⋅µ=x

XX d)(f)x(F

Distribuciones de probabilidad

� Existen ciertos experimentos comunes que aparecen con frecuencia y se conoce la función de probabilidad asociada, así como la media, la varianza, etc.

� A esos experimentos se les asocia una distribución de probabilidad.

� Dichas distribuciones se clasificarán entre distribuciones discretas y continuas.

45

Distribuciones de probabilidad discretas

Distribución uniforme:

� Consiste en un conjunto de puntos muestrales equiprobables. Cada uno de los n puntos tiene la misma probabilidad.


Distribución Bernoulli:

� Es una variable aleatoria que puede tener dos únicos valores. Un valor 1 que representa a un evento A, con probabilidad p. Un valor 0 que representa un evento B con probabilidad 1-p.

46


Distribución Geométrica:

� Es una V.A. conformada por una secuencia de eventos Bernoulli, independientes y de la misma probabilidad p. Mide el número de ensayos necesarios para obtener el evento A.


Distribución Binomial:

� Se realiza una serie de N ensayos tipo Bernoulli. En cada ensayo puede ocurrir un evento A o B con probabilidades p y 1-p complementarias.

� Los eventos son independientes entre sí en cada ensayo.

� Las probabilidades permanecen constantes durante la realización del experimento.

47



� Determina la probabilidad de obtener n veces el resultado a en los N ensayos.

� Se debe lograr que ocurran (para un solo punto muestral)

kNk

X

X

)n(P)a(P)k(P

)b(P...)b(P)a(P...)a(P)k(P

−=

⋅⋅⋅⋅⋅=n veces N-k veces



� Dado que los eventos pueden ocurrir en cualquier orden, realmente se tienen mas combinaciones de puntos. La expresión para la probabilidad es:

( )

( ) kNk

X

kNk

X

p1pk

N)k(P

p1p!k)!kN(

!N)k(P

−

−

−

=

−−

=

48



� Es una variable aleatoria que representa la suma de N variables tipo Bernoulli.

� Representa la probabilidad de tener un número k de resultados en los N experimentos tipo Bernoulli.


Distribución Poisson:

� Es una variable aleatoria que mide la probabilidad de tener un número k de resultados en un intervalo T, de acuerdo con cierta tasa de llegada λ.

� Esta distribución permite modelar el número de llamadas que llegan a una central en un tiempo determinado.

� λ se conoce como rata o frecuencia de ocurrencia de eventos y tiene unidades de eventos/seg.

� λ = 10 llamadas/seg.

49


� Ejemplo 14: Se lanza una moneda cuatro veces. Calcular la probabilidad de que salgan más caras que sellos

� Ejemplo 15: Una máquina fabrica tornillos y se ha comprobado que el 2% de los mismos son defectuosos. Si se vende en paquetes de de 29, se pide: ¿Cuál es la probabilidad de que al comprar un paquete haya en el mismo 2 defectuosos?

� Ejemplo 16: De los donadores de sangre de una clínica, 80% tiene el factor Rh presente en el torrente sanguíneo. Si se elige de manera aleatoria a cinco donadores, ¿cuál es la probabilidad de que por lo menos uno carezca del factor Rh?

� Ejemplo 17: En promedio, cada una de las 18 gallinas de un gallinero pone un huevo al día. Si se recogen los huevos cada hora ¿Cuál es el número medio de huevos que se recogen en cada visita? ¿Con qué probabilidad encontraremos x huevos para x = 0,1, 2,3? ¿y la probabilidad de que x>=4 ?

Distribuciones de probabilidad continuas

Distribución Uniforme:

� Es una variable aleatoria que asigna la misma probabilidad a cualquier intervalo de longitud L.

50


Distribución exponencial:

� Determina la probabilidad de que transcurra un intervalo de tiempo determinado entre dos eventos cualquiera.

� Probabilidad que entre dos eventos cualquiera, transcurra entre 5 minutos y 15 minutos:

� Probabilidad que entre dos eventos transcurra más de 1 hora:

∫=≤≤min15

min5)(min)15min5( duuftP

∫∞

=≤hr

duufthoraP1

)()1(


Distribución Exponencial:

� Es una variable aleatoria que permite calcular la probabilidad de ocurrencia del siguiente evento. Mide también la probabilidad del tiempo que transcurre entre dos eventos.

51


Distribución Normal:

� Es la llamada función de error. Se construye como la suma de una cantidad muy grande de otras variables aleatorias. Esto es conocido como el teorema central del límite.


Ejemplos 18-19:� Se ha comprobado que el tiempo de vida de cierto

tipo de marcapasos sigue una distribución exponencial con media de 16 años. ¿Cuál es la probabilidad de que a una persona a la que se le ha implantado este marcapasos se le deba reimplantar otro antes de 20 años?

� Suponga que tiene que esperar por alguien que demora en promedio 20 minutos. Cuál es la probabilidad de esperarlo mas de media hora? Si usted lleva ya esperándolo una hora y la persona no ha llegado, cual es la probabilidad de tener que esperarlo mas de una y media horas?

52

Distribuciones de probabilidad

� Las distribuciones de probabilidad permiten el rápido cálculo de las probabilidades.

� Si se puede comparar un fenómeno con cierta variable aleatoria, entonces se puede calcular la probabilidad muy rápidamente sin requerir técnicas de conteo o conceptos adicionales.

� Adicionalmente, tienen muchos parámetros como el valor esperado o la varianza ya calculados.

Capitulo 3

Procesos estocásticos

53


� Un proceso estocástico es un desarrollo adicional sobre el concepto de las variables aleatorias.

� Un P.E. es una V.A. que cambia en el tiempo.

� Ejemplos:

� El número de personas que están dentro de un banco en el tiempo

� El número de llamadas activas en una central de conmutación

� El número de paquetes en una cola de transmisión


� Un proceso estocástico mantiene la distribución de probabilidad para diferentes valores en el tiempo de la variable aleatoria. No se puede predecir el valor de la variable en el futuro.


0 1 2 3 4 5 6 7 8 9 100

2

4

6

8

10

12

14

16

t (seg)

Num

ero

de lla

madas

54


� Si se toman diferentes muestras en el tiempo, se obtienen diferentes realizaciones del proceso.


0 0.5 1 1.5 2 2.5 3 3.5 4 4.5 50

5

10

15

t (seg)

Num

ero

de lla

madas

0 0.5 1 1.5 2 2.5 3 3.5 4 4.5 50

5

10

15

t (seg)

Num

ero

de lla

madas

0 0.5 1 1.5 2 2.5 3 3.5 4 4.5 50

10

20

t (seg)

Num

ero

de lla

madas

0 0.5 1 1.5 2 2.5 3 3.5 4 4.5 50

10

20

t (seg)

Num

ero

de lla

madas


� Sin embargo, el número de llamadas simultáneas conserva la misma distribución de probabilidad en el tiempo


0 2 4 6 8 10 12 14 16 18 200

50

100

150

200

250

300

Numero de llamadas simultáneas

Fre

cuencia

de o

curr

encia

55


� La diferencia entre el análisis de una V.A. y un proceso estocástico es basada en las tres características siguientes: � El valor promedio de la variable aleatoria respecto al

tiempo en el largo plazo.

0 0.5 1 1.5 2 2.5 3 3.5 4 4.5 50

2

4

6

8

10

12

14

16

t (seg)

Num

ero

de lla

madas


� La diferencia entre el análisis de una V.A. y un proceso estocástico es basada en las tres características siguientes: � El cálculo de la probabilidad de ciertos eventos extremos. Por

ejemplo, la probabilidad de que N(t) sea mayor a 14

0 0.5 1 1.5 2 2.5 3 3.5 4 4.5 50

2

4

6

8

10

12

14

16

t (seg)

Num

ero

de lla

madas

56


� La diferencia entre el análisis de una V.A. y un proceso estocástico es basada en las tres características siguientes: � Finalmente, es importante determinar la relación entre valores

de la V.A. en dos instantes cercanos de tiempo.

� Aunque la variable es aleatoria, en un intervalo de tiempo corto, no es muy grande la variación que tiene. Existe una relación entre las variables cercanas en le tiempo.

0 0.05 0.1 0.15 0.2 0.25 0.3 0.35 0.40

2

4

6

8

10

t (seg)

Num

ero

de lla

madas


� Los procesos estocásticos los clasificaremos entre dos tipos principales:

� Procesos de llegada

� Proceso de Bernoulli (no lo estudiaremos)

� Proceso de Poisson

� Procesos Markovianos

� Procesos de nacimiento y muerte

� Cadenas de Markov

57


Proceso de Poisson� Es un proceso que indica los momentos en que

ocurren eventos tipo A. � El evento puede suceder en cualquier instante de

tiempo t. � Se conoce que la tasa promedio de ocurrencia de

los eventos es λ[=]eventos/seg.

1 2 3 4 5 6 7 8 9 10 11 12


Proceso de Poisson

� El tiempo que transcurre entre los eventos se llamará Tk, y tiene distribución exponencial.

� El tiempo que transcurre hasta el evento k se llamará Yk y tiene distribución de Erlang.

0 1 2 3 4 5 6 7 8 9 10 11

T1 T2T3

Y1 Y2 Y3

58


Proceso de Poisson

� El número de eventos que ocurren en un tiempo T tiene una probabilidad dada por la distribución de Poisson

0 1 2 3 4 5 6 7 8 9 10 11

3 llegadas en T=11seg

Y1 Y2 Y3

( )!k

eT)k(P

Tk

X

λ−λ=


Proceso de Poisson

� La distribución de probabilidad de la duración del tiempo entre los eventos es exponencial. Es decir,

0 1 2 3 4 5 6 7 8 9 10 11

T1 T2T3

Y1 Y2 Y3

t

T

t

T

t

T

e)t(f

e)t(f

e)t(f

3

2

1

λ−

λ−

λ−

λ=

λ=

λ=

59


Proceso de Poisson

� El proceso de Poisson carece de memoria, lo cual está indicado por:

� Esto quiere decir, que el proceso se reinicia a si mismo cada instante de tiempo.

� Si el evento no ha ocurrido hasta el tiempo To, la probabilidad de que ocurra en un intervalo siguiente es la misma que antes de haber esperado el tiempo To.

{ } { }Γ≥=≥Γ+≥ tPrTt|TtPr oo


Proceso de Poisson

� El proceso de Poisson es aditivo. Si se tienen dos procesos de Poisson con tasas λ1 y λ2, la unión de dichos procesos es otro proceso de Poisson de tasa λ= λ1+ λ2.

� Por ejemplo, suponga que tiene una oficina que hace llamadas con una tasa λ1. Además, otra oficina que hace llamadas con una tasa λ2. Las dos oficinas hacen entre las dos, llamadas con una tasa λ= λ1+ λ2.

60


Proceso de Poisson

� Un proceso de Poisson también puede separarse en varios subprocesos de tasas menores. La suma de las tasas en que se descompone el proceso, debe ser igual a la tasa original.

� Por ejemplo, suponga que la gente llega a un edificio con una tasa λ. Si las personas se dirigen a una u otra oficina con probabilidades P1 y P2, las llegadas a cada oficina son también procesos de Poisson con tasas λ1= λP1 y λ2= λP2 .


Procesos de nacimiento y muerte

� Dichos procesos son basados en el proceso de Poisson para modelar sistemas basados en líneas de espera o colas.

� Supongamos un sistema donde los usuarios requieren un servicio y deben esperar hasta que el recurso se desocupe.

� Supongamos el estado del sistema como el número de usuarios en el sistema.

61

Modelos exponenciales

Llegadas de usuarios al sistema

Usuarios atendidos en el sistema

3 usuarios en el sistema, uno en servicio, dos en cola

1

2

3

4

Tiempo


� El primer modelo a analizar será el modelo M/M/1� Llegadas exponenciales

� Servicio de duración exponencial

� Un servidor

� Capacidad infinita

� Población infinita

� Modelo de servicio FIFO

62


� Las llegadas ocurren con tiempos entre llegadas exponenciales. � El número de usuarios que llegan en un intervalo T son

distribuidas por Poisson. � La tasa de llegadas de usuarios es λλλλ usuarios/segundo� El tiempo medio entre llegadas es 1/λλλλ� El proceso de llegada es un proceso de Poisson

Prob 3 eventos en intervalo T, Poisson

dt exponecial dt dt Tiempo


� La llegada se puede ver como un proceso de nacimiento, donde cada vez han llegado mas usuarios al sistema. En el tiempo, el número de usuarios va aumentando a medida que llegan mas y mas usuarios al sistema.

0 1 2 3

λλλλλλλλ λλλλ λλλλ

63


� El tiempo de servicio de los usuarios también se modela como una variable exponencial.

� Una vez el usuario comienza servicio, demora dentro del servidor un tiempo ∆t exponencial.

� El modelo completo, se puede ver como un modelo de nacimiento y muerte, con usuarios entrando y saliendo del sistema.

� La tasa de servicio del sistema es µ[usuarios/segundo] y el tiempo medio de servicio es d=1/µ [segundos].


� El proceso de nacimiento y muerte, controla el número de usuarios dentro del sistema.

0 1 2 3


µµµµ µµµµ µµµµ µµµµ

Cantidad de usuarios en el sistema

64

Notación de Kendall para las colas

� A/B/C/D/E/F

� A: Distribución de probabilidad de tiempo entre llegadas

� B: Distribución de probabilidad de tiempo de atención

� C: Número de servidores

� D: Tamaño del sistema

� E: Tamaño de la población

� F: Política de atención de la cola (FIFO,LIFO,PRI)



� Se define el flujo de probabilidad que sale por una de las flechas anteriores, como la probabilidad del estado saliente, por el valor de la tasa de servicio o llegada ubicada en la flecha. El flujo de probabilidad que ingresa en una región cerrada, es igual al flujo que sale de la región en condiciones estacionarias.

0 1 2 3



10 µπ=λπ

65



0 1 2 3



21 µπ=λπ

Modelos de Poisson


0 1 2 3



32 µπ=λπ

66


� A partir de las ecuaciones anteriores, se puede obtener los diferentes parámetros del sistema. Definiendo ρ=λ/µ, se definen los siguientes valores: L = Número de usuarios en el sistema� Lq = Número de usuarios en la cola

� W = Tiempo para atravezar el sistema

� Wq = Tiempo de espera en la cola

� πn = Probabilidad de que haya n usuarios en el sistema


Lq

Wq

L

W

67


Resumen Cola M/M/1

ρ=

ρ−

ρ=

ρ−

ρ=

ρ−ρ=π

s

2

q

n

n

L

1L

1L

)1(

µ=

ρ−

ρ

λ=

ρ−

ρ

λ=

1W

1

1W

1

1W

s

2

q

� Ejemplo 20: Se tiene una red Ethernet con infinitos usuarios conectada al exterior mediante un router con una memoria para almacenar paquetes infinita. Se sabe que: El flujo de datos hacia fuera de la red es de 100 paq/seg en promedio y el tiempo entre llegadas exponencial. El tamaño de los paquetes corresponde a una función de probabilidad exponencial y es en promedio de 85 bytes.

� Calcule:� la velocidad mínima del enlace de salida y asigne un valor estándar� la utilización del enlace.� el tiempo medio que tarda un paquete en ser transmitido� el tamaño medio de la memoria del router que permanece ocupada en

paquetes.� el tiempo medio que permanece un paquete en la cola� La probabilidad de tener más de 2 paquetes en la memoria


PROBLEMA 4

68

Capitulo 4

Modelos Markovianos

Documents

Procesos Estocasticos Parte 1 y 2