Escuela de Matematica1era. Escuela de Matematica Pura y Aplicada

Guatemala 2012.

Curso 1Introduccion a Cadenas de Markov1

Antonio Murillo SalasDepartamento de Matematicas

Universidad de Guanajuato.

Del 19 al 24 de noviembre de 2012.

1Version preliminar.

Indice general

1. Cadenas de Markov 31.1. Definicion y propiedades basicas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31.2. Clasificacion de estados . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 61.3. Algunos modelos importantes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 81.4. Analisis de un paso . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10

2. Caminatas aleatorias simples 142.1. Introduccion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 142.2. Propiedades de las caminatas aleatorias simples . . . . . . . . . . . . . . . . . . . . 162.3. Ejercicios . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25

3. Procesos de Galton-Watson 263.1. Funciones generadoras de probabilidades . . . . . . . . . . . . . . . . . . . . . . . . 263.2. Una breve introduccion a procesos de Galton-Watson . . . . . . . . . . . . . . . . . 303.3. Ejercicios . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34

1

Introduccion

2

Captulo 1

Cadenas de Markov

1.1. Definicion y propiedades basicas

Definicion 1.1.1 Un proceso estocastico es una coleccion de variables aleatorias, {Xt; t T},definidas sobre un mismo espacio de probabilidad (,F,P), donde T es un conjunto de indices.

Para propositos del presente curso, T = Z+ := {0, 1, 2, } y las variables aleatorias Xt, t T ,toman valores en algun conjunto E (finito o numerable).

Definicion 1.1.2 La sucesion {Xn;n 0} es llamada cadena de Markov si para todo n 1 ycualquier coleccion x0, x1, , xn E se cumple

P(Xn = xn|X0 = x0, X1 = x1, , Xn1 = xn1), (1.1)siempre que P(X0 = x0, X1 = x1, , Xn1 = xn1) > 0.Observaciones:

(i) La identidad (1.1) es llamada propiedad de Markov.

(ii) La distribucion de X0, pi0(x) := P(X0 = x) (x E), es llamada distribucion inicial de lacadena.

(iii) La familia {P(Xn = y|Xn1 = x);n N, x, y E} es conocida como familia de probabili-dades de transicion de la cadena.

(iv) Si P(Xn = y|Xn1 = x) no depende de n, se dice que la cadena es homogenea con respectoal tiempo. En tal caso, se escribe

pxy P(Xn = y|Xn1 = x), (1.2)px,y es la probabilidad de pasar del punto x al punto y en un paso.

Por otro lado, en el caso de que la cadena sea homogenea, para cada m 1 se definep(m)xy := P(Xn+m = y|Xn = y), (1.3)

donde p(m)x,y denota la probabilidad de pasar de x a y en m pasos. En el presente curso

solo estudiaremos cadenas de Markov homogeneas.

3

(v) Para cada x, y E, se define

p(0)xy = xy =

{1, si x = y,

0, en otro caso.

(vi) En el caso de que la cadena sea homogenea, (pxy;x, y E) es llamada matriz de transicionde la cadena. Notemos que, la suma por renglones de los elementos de la matriz de transiciones 1. Mas precisamente,

yEpxy = 1, para todo x E.

En efecto, sabemos que

1 = P() = P(X1 E|X0 = x)= P(yEX1 = y|X0 = x)=

yE

P(X1 = y|X0 = x)

=yE

pxy.

La siguiente proposicion nos dice como determinar la distribucion de una cadena de Markovapartir de su distribucion inicial y sus probabilidades de transicion.

Proposicion 1.1.3 La distribucion de {Xn, n 0} queda determinada por las probabilidades detransicion y la distribucion inicial, es decir, para cada n N y x0, x1, , xn E

P(Xn = xn, Xn1 = xn1, , X0 = x0) = pi0(x0)px0x1px1x2 pxn1xn .

Demostracion: Usando varias veces la propiedad de Markov, tenemos que

P(Xn = xn, Xn1 = xn1, , X0 = x0)= P(Xn = xn|Xn1 = xn1, , X1 = x1, X0 = x0)P(Xn1 = xn1, , X1 = x1, X0 = x0)= P(Xn = xn|Xn1 = xn1)P(Xn1 = xn1|Xn2 = xn2, , X1 = x1, X0 = x0)P(Xn2 = xn2, , X1 = x1, X0 = x0)

= pxn1xnP(Xn2 = xn2|Xn1 = xn1)P(Xn2 = xn2, , X1 = x1, X0 = x0)= pxn1xnpxn2,xn1P(Xn2 = xn2, , X1 = x1, X0 = x0)...

= pxn1xnpxn2xn1 px0x1pi0(x0).

La proposicion anterior nos permite decir sea {Xn, n 0} una cadena de Markov con dis-tribucion inicial pi0 y matriz de transicion P (px,y), donde x, y E. Notemos que las entradas

4

de la matriz de transicion contienen las probabilidades de transcion a un pasa. Como usar P paracalcular probabilidades de transcion en m pasos?

Por el momento, supongamos que m = 2. Entonces,

p(2)xy = P(X2 = y|X0 = x)=

x1E

P(X2 = y,X1 = x1|X0 = x)

=x1E

P(X2 = y|X1 = x1, X0 = x0)P(X1 = x1|X0 = x0)

=x1E

px0x1px1x2 .

Notemos que p(2)xy P 2xy, es decir, la entrada (x, y) de la matriz P 2. Mas generalmente, para

cualquier m N, se tiene quep(m)xy = P

mxy.

La matriz Pm es llamada matriz de transcion en m pasos.Ahora vamos a ver una de las propiedades mas utiles de la teora de cadenas de Markov, la

llamada ecuacion de Chapman-Kolmogorov, que es una formula para calcular probabilidades detranscion en n+m pasos apartir de las transiciones en n y m pasos.

Proposicion 1.1.4 Sea {Xn, n 0} una cadena de Markov con espacio de estados E. Para todon,m N y x, y E se cumple

p(n+m)xy = P(Xn+m = y|X0 = x) =zE

p(m)xz p(n)zy . (1.4)

Demostracion: Para la demostracion usaremos la propiedad de Markov y la ley de probabilidadtotal:

p(n+m)xy = P(Xn+m = y|X0 = x)=

P(Xn+m = y,X0 = x)P(x0 = x)

=

zE P(Xn+m = y,Xm = z,X0 = x)

P(X0 = x)

=zE

P(Xn+m = y|Xm = z,X0 = x)P(Xm = z,X0 = x)P(X0 = x)

=zE

P(Xn+m = y|Xm = z)P(Xm = z,X0 = x)P(X0 = x)=

zE

P(Xn = y|X0 = z)P(Xm = z|X0 = x)

=zE

p(m)xz p(n)zy .

5

1.2. Clasificacion de estados

Definicion 1.2.1 Sea {Xn, n 0} una cadena de Markov con espacio de estados E y matriz detranscion P . Dados x, y E se define lo siguiente:

1. De x se accede a y si existe n 0 tal que p(n)xy > 0, y se denota por (x y).2. x y y se comunican entre s, y se denota por (x y), si (x y) y (y x).

La relacion (x y) es una relacion de equivalencia como lo muestra la siguienteProposicion 1.2.2 (x y) es una relacion de equivalencia y da lugar a una particion del espaciode estados E.

Demostracion: Dedemos probar que

(i) (x x)(ii) (x y) si y solo si (y x)

(iii) (x y) y (y z) implican que (x z).

Notemos que (i) se cumple ya que p(0)xx = xx = 1 > 0. La propiedad (ii) se sigue directamente de

la definicion. Veamos que (iii) se cumple: sabemos que existen n,m, n,m N tales que

p(n)xy > 0, p(m)yx > 0, p

(n)yz > 0, p

(m)zy .

Lo anterior implica que (x z). En efecto, por la ecuacion de Chapman-Kolmogorov (1.4) setiene que

p(n+n)

xz =lE

p(n)xl p

(n)lx p(n)xy p(n

)yz > 0.

Del mismo modo se verifica que (z x). Por lo tanto, (x z). La proposicion anterior nos permite hablar de clases de estados:

Definicion 1.2.3 1. Una clase de equivalencia, respecto a (x y), se llama clase de comuni-cacion.

2. Dado x E, su clase de comunicacion se denota por

C(x) = {y E : x y}.

3. Se dide que un subconjunto de estados C E es cerrado si ningun estado de Cc puede seraccedido desde un estado en C, es decir, si p

(m)xy = 0 para todo x C, y Cc y cualquier

m 1.Ejemplos:

6

1. Considere una cadena de Markov con espacio de estados E = {1, 2, 3} y matriz de transcion

P =

1 0 00 2/3 1/30 1/2 1/2

En este caso hay dos clases de comunicacion: {1} y {2, 3}, ambas clases son cerradas.

2. Considere una cadena de Markov con espacio de estados E = {0, 1, 2, 3, 4, 5} y matriz detransicion

P =

1/3 0 2/3 0 0 00 1/4 0 3/4 0 0

2/3 0 1/3 0 0 00 1/5 0 4/5 0 0

1/4 1/4 0 0 1/4 1/41/6 1/6 1/6 1/6 1/6 1/6

Las clases de comunicacion de la cadena son: {0, 2}, {1, 3}, {4, 5}. Ejercicio...

Ahora veremos el concepto de irreducibilidad de una cadena de Markov.

Definicion 1.2.4 Se dice que una cadena de Markov Xn es irreducibe si se cumple cualquiera dela siguentes condiciones (equivalentes entre s):

(i) Desde cualquier estado de E se puede acceder a cualquier otro estado.

(ii) Todos los estados se comunican entre s.

(iii) C(x) = E para algun x E.(iv) C(x) = E para todo x E.(v) El unico conjunto cerrado es el total.

Ejemplos...

Definicion 1.2.5 Sea Xn una cadena de Markov con espacio de estados E. Dado x E definimosq = P(Xn = x para algun n N|X0 = x), se dice que:

x es un estado recurrente si q = 1.

x es un estado transitorio si q < 1.

x es un astado absorbente si pxx = 1.

Una clase de comunicacion es clase recurrente si todos sus estados son recurrentes.

Notemos que en el caso en que x es un estado transitorio se tiene

P(Xn 6= x para todo n 1|X0 = x) > 0,es decir, con probabilidad positiva la cadena nunca regresa al punto de inicio. Un estado absorbente,como su nombre lo indica, una vez que la cadena llega a el ah permanece.

Pasaremos ahora a definir el concepto de tiempo de entrada a un conjunto A E.

7

Definicion 1.2.6 Dado A E, se define el primer tiempo de entrada a A, TA, como

TA =

{mn{n 0 : Xn A}, si {n 0 : Xn A} 6= +, si {n 0 : Xn A} = .

Notemos que TA denota la primera vez que la cadena visita (entra) el conjunto A.

1.3. Algunos modelos importantes

Modelo de inventarios

Sea (n, n 0) una sucesion de variables aleatorias independientes e identicamente distribuidastales que

P(n = k) = ak, k = 0, 1, ,donde ak 0 y

k ak = 1.

Supongamos que nos interesa modelar el nivel de un inventario. Los lmites maximo y mnimodel inventario son S y s (S > s), respectivamentecon S > s. El nivel del invetario se revisa a finalde cada periodo (diario, mensual, etc.) si hay al menos s unidades entonces se surte hasta el nivelS, y si hay mas de s entonces no se surte el faltante. Sea Xn el nivel del inventario al final delperodo n.

Xn+1 =

{Xn n+1, si s < Xn S,S n+1, si Xn s.

De la relacion anterior y la independencia de la sucesion (n) obtenemos que el {Xn, n 0} es unacadena de Markov. Notemos que el espacio de estados es

E = {S, S 1, , 1, 0,1,2 }.Las probabilidades de transicion de {Xn, n 0} estan dadas por

pij = P(Xn+1 = j|Xn = i)

=

{P(n+1 = i j), s < i S,P(n+1 = S j), i s.

Modelo de Wright-Fisher

Supongamos que se tiene una poblacion compuesta de 2N genes, que pueden ser del tipo a ode tipo A. El tiempo se mide en generaciones, y se esta interesado en el numero de genenes deltipo A en la n-esima generacion. Sea Xn el numero de tales genes.

La composicion de la poblacion en la generacion n+ 1 se determina de la siguiente manera: sien la generacion n hay j del tipo a y 2N j del tipo A, entonces la probabilidad de que el padrede un individuo en la generacion n + 1 sea del tipo a es pj =

j2N

mientras que con probabilidad

qj = 1 2Nj2N es del tipo A. Entonces,

pjk = P(Xn+1 = k|Xn = j) =(

2N

k

)pkj q

2Nkj , j, k = 0, 1, 2, , 2N.

8

De la relacion anterior se sigue inmediatamente que {Xn, n 0} es una cadena de Markov conespacio de estados E = {0, 1, , 2N}.

La urna de Ehrenfest

Supongamos que estamos interesados en modelar la difusion de partculas a traves de unamembrana. En escenerio es el siguiente: se tienen dos urnas (A y B), con a bolas repartidas dentrode ellas. Las bolas estan numeradas de 1, 2, , a. En cada etapa, se escoge un numero al azar(uniforme) entre 1 y a, y la bola correspondiente se cambia de urna. Sea Xn el numero de bolasen la urna A en la etapa n.

Es claro que, Xn+1 solo depende de Xn. Por lo tanton, {Xn, n 0} es una cadena de Markovcon el espacio de estados es E = {1, 2, , a}.

Las probabilidades de transicion estan dadas por

pij = P(Xn+1 = j|Xn = i) =

ia, si i > 0, j = i 1,

aia, si i < a, j = i+ 1,

0, en otro caso.

Caminatas aleatorias

Sea (Xn, n 1) una sucesion de variables aleatorias i.i.d. con distribucion comun dada por

P(X1 = 1) = 1 P(X1 = 1) = 1 q = p.

La sucesion (Sn, n 0), dondeSn = S0 +

ni=1

Xi,

es llamada caminata aleatoria simple. En general, S0 puede ser constante o una variable aleatoria,se dice que la caminata inicia en S0. Si p = q =

12

es llamada caminata aleatoria simple simetrica.

b

b b

b

b

b

b

b

b

b

9

Las caminatas aleatorias son utiles para modelar varios fenomenos: podemos usarlo para mod-elar la posicion de una partcula que se mueve en los enteros, a cada paso la partcula puedeavanzar o retroceder por un paso con probabilidad p y 1 p, respectivamente. Ademas, la direc-cion (izquierda o derecha) es independiente de los pasos anteriores. Asimismo pueden servir paramodelar un juego de apuestas donde en cada jugada se pierde o se gana una unidad.

El objetivo del Captulo 3 es estudiar diversas propiedades de caminatas aleatorias.

Procesos Galton-Watson

Supongamos que una poblacion de partculas (moleculas, virus, etc.) evoluciona de la siguientemanera: la poblacion inicia al tiempo n = 0 con una partcula, al tiempo n = 1 dicha partculamuere y da oringen a un numero aleatorio (X) de partculas identicas entre s y su progenitoray, a tiempos subsecuentes n = 2, 3, . . . , cada individuo evoluciona de la misma manera (muriendoy ramificandose) produciendo as X partculas cada uno. El numero de partculas que producecada individuo es independiente de los demas y que tiene la misma distribucion que X. Sea Zn eltamano de la poblacion al tiempo n, entonces Z = {Zn : n 0} es un proceso estocastico en cual,a cada tiempo, nos da el total de la poblacion.

Sea (Xni , n 0, i 1) un coleccion de variables aleatorias independientes todas con la mismadistribucion que X. Entonces, el proceso Z se puede describir de la siguiente manera, Z0 = 1 y

Zn+1 =Zni=1

Xni , n = 0, 1, . . . , (1.5)

donde Xni representa el numero de descendientes que produce el i-esimo individuo presente en lageneracion n. Una consecuencia de la independencia de la coleccion (Xni ) y (1.5) es que el procesoZ es una cadena de Markov

Proceso de Galton -Watson

b

b

b

b

b

b

b b

bbb

b bb b b b b

b

b b b

b b

b b

bb

b b b b

b

En el Captulo 4 trataremos este modelo.

1.4. Analisis de un paso

Una tecnica muy util para encontrar el valor de diversos funcionales de una cadena de Markoves el analisis de un paso, el cual consiste en condicionar a la primera transicion que realiza lacadena y luego iniciar (propiedad de Markov) el proceso. Vamos a ilustrar la tecnica con algumosejemplos.

10

Ejemplo 1.4.1 Considere una cadena de Markov Xn con espacio de estados E = {0, 1, 2} ymatriz de transicion

0 1 20 1 0 01 2 0 0 1

donde , , > 0 y tales que + + = 1. Sea T T{0,2}, encuentre u := P(XT = 0|X0 = 1) yvi := E[T |X0 = i], i = 0, 1, 2.Solucion: Por la Ley de Probabilidad Total, se tiene

u = P(XT = 0|X0 = 1)

=2j=0

P(XT = 0|X0 = 1, X1 = j)P(X1 = j|X0 = 1)

=2j=0

P(XT = 0|X1 = j)p1j,

para obtener la ultima igualdad usamos la propiedad de Markov. Ahora bien, dado que 0 y 2 sonestados absorbentes, tenemos

P(XT = 0|X1 = 0) = 1, P(XT = 0|X0 = 1) = u y P(XT = 0|X0 = 2) = 0.Entonces,

u = + u.

Por lo tanto,

u =

1 =

+ .

Ahora veremos como encontrar v. Notemos que v0 = v2 = 0, pues la cadena inicia en la claseabsorbente. Por otro lado, si X0 = 1 se requiere de al menos un paso para que la cadena seaabsorbida por la clase {0, 2}. Luego, nuevamente por la Ley de Probabilidad Total, obtenemos

v1 = 1 + 0 + v + 0,

es decir, v = 11 .

Ejemplo 1.4.2 Un raton se pone en un laberinto con el que se muestra en la siguiente figura:

0 71

2 3 4

8 5 6

11

Al llegar a la casilla 7 encuentra alimento y en la casilla 8 recibe una descarga electrica, una vezque llega a estas casillas ah permanece. El raton tiene se mueve, con igual probabilidad, a lascasillas posibles. Encuentre la probabilidad de que el raton llegue a donde hay alimento, es decir,la probabilidad de que la cadena llegue al estado absorbente 7.

La matriz de transicion resulta ser

0 1 2 3 4 5 6 7 80 0 1/2 1/2 0 0 0 0 0 01 1/3 0 0 1/3 0 0 0 1/3 02 1/3 0 0 1/3 0 0 0 0 1/33 0 1/4 1/4 0 1/4 1/4 0 0 04 0 0 0 1/3 0 0 1/3 1/3 05 0 0 0 1/3 0 0 1/3 0 1/36 0 0 0 0 1/2 1/2 0 0 07 0 0 0 0 0 0 0 1 08 0 0 0 0 0 0 0 0 1

Sea ui = ui(7) la probabilidad de que la cadena sea absorbida por 7 dado que inicia en la celdai, es decir, que el raton encuentre el alimento antes de recibir una descarga eletrica. Es claro queu7 = 1 mientras que u8 = 0. Suponiendo que el raton inicia en la casilla 0, el siguiente diagramanos muestra las transiciones puede hacer:

01

2

037

03

8

12

4

5

356 4

53

6

8

12

0 1 2 3

4 5 6 7

8

Esquema de transiciones

Luego, utilizando el diagrama anterior, obtenemos que

u0 =1

2(u1 + u2)

u1 =1

3(u0 + u3 + u7)

u2 =1

3(u0 + u3 + u8)

u3 =1

4(u1 + u2 + u4 + u5)

u4 =1

3(u3 + u6 + u7)

u5 =1

3(u3 + u6 + u8)

u6 =1

2(u4 + u5).

Por la simetra del problema, se tiene que u0 = u6 y u1 = u4. Por otro lado, dado que las transicionesson uniformes, si el raton inicia en la casilla 3 entonces u3 = 1/2. Luego, recordando que u7 = 1 yu8 = 0, obtenemos que u0 =

12, u1 =

23

y u2 = 13.

13

Captulo 2

Caminatas aleatorias simples

2.1. Introduccion

Para iniciar el estudio de caminatas aleatorias conviene recordar la definicion de independenciade una coleccion de variables aleatorias: se dice que (Xn, n 1) es una sucesion de variablesindendientes, si para cada n-eada de enteros (k1, k2, , kn) distintos se cumple que las variablesaleatorias Xk1 , Xk2 , , Xkn son indenpendientes.

Definicion 2.1.1 Sea (Xn, n 1) una sucesion de variables aleatorias i.i.d. con distribucioncomun dada por

P(X1 = 1) = 1 P(X1 = 1) = 1 q = p.La sucesion (Sn, n 0), donde

Sn = S0 +ni=1

Xi,

es llamada caminata aleatoria simple. En general, S0 puede ser constante o una variable aleatoria,se dice que la caminata inicia en S0. Si p = q =

12

es llamada caminata aleatoria simple simetrica.

Las caminatas aleatorias son utiles para modelar varios fenomenos: podemos usarlo para modelarla posicion de una partcula que se mueve en los enteros, a cada paso la partcula puede avanzar oretroceder por un paso con probabilidad p y 1p, respectivamente. Ademas, la direccion (izquierdao derecha) es independiente de los pasos anteriores. Asimismo pueden servir para modelar un juegode apuestas donde en cada jugada se pierde o se gana una unidad.

Las caminatas aleatorias simples se grafican en el plano cartesiano con los puntos (n, Sn)n=0

uniendo los puntos vecinos con lineas rectas con pendiente 1 o -1. A la grafica resultante se lellama trayectoria o realizacion, y dado que es trata de una sucesion de variables aleatorias, para se tiene una trayectoria o realizacion. La siguente grafica muestra una realizacion de unacaminata aleatoria que inicia en 0:

14

bb b

b

b

b

b

b

b

b

Ejemplo 2.1.2 Dos jugadores A y B juegan una serie de volados de modo que A le gana 1 pesoa B cada vez que la moneda cae aguila (con probababilidad p) o A le paga un peso a B en casocontrario. Supongamos que A inicia con a pesos y B con b pesos. El juego se detiene cuando algunode los jugadores se queda sin dinero. Cual es la probababilidad de que A gane el juego?Solucion: sea

Ak = P(A gane el juego dado que inicia con a pesos),

notemos que A = 0 y Aa+b = 1. Condicionando en el primer volado obtenemos que

Ak = pAk+1 + qAk1.

Ademas, por idenpendencia podemos obtener que Ak = Ak1 y para simplificar notacion definimos

r = A1. Entonces, de la ecuacion anterior se sigue que

rk = prk+1 + qrk1,

dividiendo por rk1 se tienepr2 r + q = 0.

Las soluciones de la ecuacion anterior estan dadas por r1 = 1 y r2 =qp. En efecto, la solucion

general es

r =11 4pq

2p

=1 |p q|

2p,

ya que 1 4pq = (p q)2.Luego,

Ak = c1(1)k + c2

(q

p

)k.

Ahora bien, de A0 = 0 y Aa+b = 1 se tiene que c1 = c2 con

c2 =1(

qp

)a+b 1

.

15

Por lo tanto,

Ak = 1(qp

)a+b 1

+1(

qp

)a+b 1

(q

p

)k

=

(qp

)k 1(

qp

)a+b 1

.

2.2. Propiedades de las caminatas aleatorias simples

Lema 2.2.1 Toda caminata aleatoria simple {Sn, n 0}, con S0 = a, posee las siguientespropiedades:

(i) Homogeneidad espacial:

P(Sn = j|S0 = a) = P(Sn = j + b|S0 = a+ b).

(ii) Homogeneidad temporal, para todo n,m Z:

P(Sn = j|S0 = a) = P(Sn+m = j|Sm = a).

(iii) Propiedad de Markov, para todo n,m Z,

P(Sn+m = j|S0, S1, , Sn) = P(Sn+m = j|Sn). (2.1)

Demostracion: (i) Veamos el lado izquierdo

P(Sn = j|S0 = a) = P(Sn = j, S0 = a)P(S0 = a) = P(

ni=1

Xi = j a),

note que usamos el hecho P(S0 = a) = 1. Analogamente, el lado derecho satisface

P

(ni=1

Xi = j a)

= P(Sn = j + b, S0 = a+ b) = P

(ni=1

Xi = j + b (a+ b)).

16

(ii) Procederemos como en (i). El lado derecho es igual a

P(S0 +

n+mi=1 Xi = j, S0 +

mi=1Xi = a

)P (S0 +

mi=1Xi = a)

=P(n+m

i=m+1Xi = j a, S0 +m

i=1Xi = j)

P (S0 +m

i=1Xi = j)

= P

(n+mi=m+1

Xi = j a)

(independencia)

= P

(ni=1

Xi = j a),

la ultima igualdad es debido al hecho que el vector (X1, , Xn) tiene la misma distribucion queel vector (Xm+1, Xm+1, , Xn+m). Un calculo similar, pero mas simple, demuestra la igualdaddeseada.

(iii) Sean s0, s1, , sn enteros tales que

P(Sn+m = j|S0 = s0, S1 = s1, , Sn = sn)=

P(S0 = s0, S1 = s1, , Sn = sn, Sn+m = sn+m)P(S0 = s0, S1 = s1, , Sn = sn)

=P(S0 = s0, X1 = s1 s0, X2 = s2 s1, , Xn = sn sn1,

n+mi=n+1Xi = sn+m sn)

P(S0 = s0, X1 = s1 s0, X2 = s2 s1, , Xn1 = sn1 sn2, Xn = sn sn1)

= P(n+mi=n+1

Xi = sn+m sn).

Por otro lado, tenemos que

P(Sn+m = sn+m|Sn = sn) = P(Sn+m = sn+m, Sn = sn)P(Sn = sn)

= P(n+mi=n+1

Xi = sn+m sn).

En el siguiente resultado calcularemos las probabilidades de transicion para la caminata aleato-ria simple.

Lema 2.2.2 Para todo a, b Z y n 0, se tiene que

P(Sn = b|S0 = a) ={(

n(n+ba)/2

)p(n+ba)/2q(nb+a)/2 si (n+ b a)/2 Z,

0 en otro caso.

17

Demostracion: Se tiene que, una realizacion que lleva del punto (0, a) al punto (0, b) en n pasostiene r pasos hacia arriba (+1) y l pasos hacia abajo (1), donde r, l son tales que l + r = n yr l = b a. Lo anterior es debido a que, Sn = r(+1) + l(1) = b a. Resolviendo las ecuacionesantariores obtenemos que,

r =n+ b a

2y l =

n b+ a2

.

Ahora bien, cada realizacion que lleva de a a b en n pasos tiene probabilidad prql, y hay(

n(n+ba)/2

)realizaciones posibles. Por lo que el resultado se sigue.

Note que, la prueba del resultado anterior se basa en el conteo de trayectorias, i.e., casos fa-vorables/casos posibles. Esta es una propiedad de muy interesante y que ha llamado la atencionno solo de la comunidad probabilista sino que tambien es explotada en teora combinatoria, teorade juegos, entre otras.

En lo que sigue procederemos a calcular probabilidades asociadas a la caminata aleatoria simplemediante las herramientas estudiadas hasta el momento. A saber, mediante el uso de esperanzacondicional.

Definicion 2.2.3 Para cada j Z, el primer tiempo de llegada al estado j se define por

Tj = mn{n 0 : Sn = j}.

Proposicion 2.2.4 Para cada j Z, sea hj la probabilidad de que una caminata aleatoria queparte del estado j llegue al estado 0 antes de llegar al estado N , i.e., hj = P(T0 < Tn|S0 = j).Entonces,

hj =

( qp)j( q

p)N

1( qp)N

p 6= q,1 j

Np = 1

2.

Demostracion: Condicionando en la primera transicion obtenemos la ecuacion,

hj = phj+1 + qhj1,

para j {1, 2, , N 1}. Ademas, notemos que h0 = 1 y hN = 0. Reescribiendo la encuacionanterior se obtiene

hn = phn+1 + qhn1 q(hn+1 hn) = p(hn+1 hn), n 1. (2.2)

El caso simetrico: p = q = 1/2. En este caso, se tiene la ecuacion

hn hn1 = hn+1 hn, n 1.

Por lo tanto, la recta hn tiene una pendiente constante c := hn+1 hn, en consecuencia

hn = 1 +nj=1

(hj hj1) = 1 + nc, 1 n N.

18

Ahora bien, recordando que hN = 1 obtemos que c = 1/N , i.e., hn = 1 n/N .El caso general: p 6= q. Definamos la sucesion (xn, n 0) como sigue, x0 R (se determinara masadelante) y xn = hnhn1, para 1 n N . De la ecuacion en el lado derecho de (2.2) obtenemosque la sucesion (xn, n 0) satisface la relacion xn+1 = qpxn, para 1 n N . Por lo tanto,

xn+1 =

(q

p

)nx0, 0 n N. (2.3)

Luego, dado que

hn = h0 +nj=1

(hj hj1),

la ecuacion (2.3) implica

hn = h0 + x0

nj=1

(q

p

)j

= h0 + x0

(q

p

) 1 ( qp

)n1

(qp

) . (2.4)Haciendo uso del hecho que, hN = 0 y h0 = 1, obtenemos que

0 = 1 + x0

(q

p

) 1 ( qp

)n1

(qp

) ,de donde se sigue que

x0 = pq

1 qp

1(qp

)N .Finalmente, de (2.4) se concluye que

hn =

(qp

)n(qp

)N1

(qp

)N .

Corolario 2.2.5 Para cada j N se tiene que

P(T0 p.

19

Demostracion: Para cada n, sea An := {T0 < Tn}. Notemos que An An+1, dado que Tn Tn+1,para cada n. Ademas, observemos que

{T0

Veamos el siguiente resultado importante, el cual es una consecuencia del lema anterior.

Teorema 2.2.8 (Teorema de las votaciones (Ballot Theorem) Sea b N, entonces el numero derealizaciones que van de (0, 0) a (n, b) y que no visitan al eje x despues del primer paso esta dadopor

b

nNn(0,b).

Demostracion: Notemos que, las trayectorias que nos interesa contar en el primer paso se en-cuentran en (1, 1). Por lo tanto, en numero de trayectorias de interes esta dado por

Nn1(1,b) N0n1(1,b) = Nn1(1,b) Nn1(1, b)

=(n 1)!(

nb2

)!(n+b2

2

)! (n 1)!(

nb22

)!(n+b2

)!

=(n 1)!(

nb2

)!(n+b2

)!

(n+ b

2 n b

2

)=

b

nNn(0,b).

Veamos ahora porque el resultado anterior se llama Teorema de las votaciones. Sunpongamos quetenemos dos candidatos A y B, y que A obtiene a votos y B obtiene b votos, donde a > b. Cual esla probabilidad de que A tenga la ventaja durante toda la votacion?

Supongamos que Xi = 1 si el i-esimo individuo vota por el candidato A y vale -1 si vota elcanditato B. Supongamos que cualquier combinacion de votos es igualmente probable, i.e., cadauna tiene probabilidad

(+

). La trayectoria que deben seguir las votaciones para que A tenga las

preferencias durante toda la jornada de votaciones va del punto (0, 0) al punto (+ , ). Porlo tanto, por el Teorema 2.2.8 esta dada por

+

N+(0,)1(

+

) = +

.

El siguiente resultado es una aplicacion del Principio de Reflexion (Teorema 2.2.6)

Teorema 2.2.9 Supongamos que S0 = 0, entonces para todo n 0 se cumple que

P(S1S2 Sn 6= 0, Sn = b) = |b|nP(Sn = b) (2.5)

Demostracion: Supongamos que S0 = 0 y Sn = b > 0. Notemos que, S1S2 Sn 6= 0 si y solo sila caminata aleatoria no visita el eje x en el intervalo de tiempo [1, n]. Por lo tanto, por el Teorema2.2.8 se tiene que el numero de tales trayectorias es

b

nNn(0, b)

21

y por argumentos similares a los del Lema 2.2.2 se sigue que hay (n + b)/2 pasos hacia arriba y(n b)/2 pasos hacia abajo. Por lo tanto,

P(S1S2 Sn 6= 0, Sn = b) = bnNn(0, b)p

(n+b)/2q(nb)/2

=b

n

(n

12(n+ b)

)p(n+b)/2q(nb)/2

=b

nP(Sn = b|S0 = 0).

El caso b < 0 es similar, concluyendo as que

P(S1S2 Sn 6= 0, Sn = b) = |b|nP(Sn = b).

Observacion 2.2.10 Notemos que, la ecuacion (2.5) implica

P(S1S2 Sn 6= 0) = 1nE(|Sn|).

Ahora vamos a analizar el comportamiento de los maximos de una caminata aleatoria. SeaMn := {Sk : 1 n}, n 1, el maximo de (Sn) hasta el tiempo n. Tenemos el siguienteTeorema 2.2.11 Supongamos que S0 = 0. Entonces, para cada r 1, se cumple

P(Mn r, Sn = b) =P(Sn = b), si b r,( q

p

)rbP(Sn = 2r b), si b < r.

Demostracion: Supongamos que r 1 y que b < r, pues el caso b r es trivial. Sea N rn(0, b) elnumero de realizaciones que van del (0, 0) a (n, b) y que pasan por el estado r al menos una vez.Sea ir el primer tiempo al cual la caminata visita el estado r, reflejando la trayectoria entre ir y nen la recta r se obtiene una trayectoria que va de (0, 0) a (n, 2r b). Ahora bien, a una de estastrayectorias le aplicamos la transformacion inversa y obtenemos una que va de (0, 0) a (n, b) y queademas pasa por r. Entonces, se obtiene que

N rn(0, b) = Nn(0, 2r b),y sabemos que cada una de tales realizaciones tiene probabilidad p(n+b)/2q(nb)/2. Por lo tanto,

P(Mn r, Sn = b) = N rn(0, b)p(n+b)/2q(nb)/2

=

(q

p

)rbNn(0, 2r b)p(n+2r+b)/2q(n2r+b)/2

=

(q

p

)rbP(Sn = 2r b).

22

Una pregunta interesate que podemos hacerno es la siguiente, Cual es la probabilidad de que(Sn), S0 = 0, alcance el nivel b por primera vez al tiempo n? Sea fb(n) tal probabilidad.

Teorema 2.2.12 Para cada n 1 se cumple que

fb(n) =|b|nP(Sn = b).

Demostracion: Supongamos que b > 0. Notemos que,

fb(n) P(Mn1 = Sn1 = b 1, Sn = b)= (P(Mn1 = Sn1 = b 1, Sn = b)P(Mn1 = Sn1 = b 1)= pP(Mn1 = Sn1 = b 1)= p [P(Mn1 b 1, Sn1 = b 1) P(Mn1 b, Sn1 = b 1)]= p

[P(Sn1 = b 1) q

pP(Sn1 = b 1)

]=

b

nP(Sn = b),

donde en la penultima igualdad usamos el Teorema 2.2.11.El caso b < 0 se obtiene de manera similar.

Ejemplo 2.2.13 Sea (Sn)n0 una caminata aleatoria simple con S0 = 0. Para cada r 6= 0 defi-namos Vr como el numero de visitas al estado r antes de que la cadena regrese a su estado inicial.(i) Demuestre que E(Vr) = 1.(ii) Dar un criterio para determinar si el numero de visitas a 0 es finito o infinito.

Solucion: (i) Sea An el evento que al tiempo n la caminata visita el estado r y no ha visitado elestado 0 hasta ese instante. Entonces, Vr

1 1An . Por otro lado, se tiene que

E(1An) = P(An) = P(Sn = r, S1S2 Sn 6= 0) =|r|nP(Sn = r) fr(n).

Por lo tanto,

E(Vr) = E(1

1An) =n1

fr(n) = 1.

Vamos a ver demostrar la ultima igualdad. Note que,n1

fr(n) P(Sn = r, para algun n) := fr.

Condicionando en el primer salto, i.e., en S1 obtemos la ecuacion

fr =1

2(fb+1 fb1), b > 0,

23

con condicion inicial f0 = 1. Resolviendo la ecuacion obtenemos que fb = 1. Lo mismo se puedehacer para el caso b < 0.(ii) Sea R el numero total de visitas al estado 0. Notemos que, R =

n0 1{Sn=0}, entonces

E(R) =n0

P(Sn = 0) =k0

(2k

k

)pkqk. (2.6)

Notemos que, pq 1/4 y pq = 1/4 si y solo si p = 1/2. Luego, usando la identidad de Stirlingn! nn+ 12 en2pi, se tiene que para k suficientemente grande(

2k

k

) (2k)

2k+1/2e2k2pi(kk+1/2e2)2

= (

2pi)122k+1/2k1/2,

es decir, el termino general en la sere esta dado por la aproximacion(2k

k

)pkqk (pi)1k1/2(4pq)k.

Por lo tanto, la sere que aparece en (2.6) no es es convergente para p = 1/2 ya que el terminogeneral es de orden de k1/2. Por otro lado, si p 6= 1/2, se tiene que 4pq < 1, en consecuencia (2.6)es convergente.

24

2.3. Ejercicios

1. Sea b un entero negativo. Demuestre que el numero de realizaciones que van de (0, 0) a (n, b)y que no visitan el eje x despues del primer paso esta dado por

bnNn(0,b).

2. Sea {Sn, n 0} la caminata aleatoria simple con S0 = 0, y defina T =: {n 1 : Sn = 0} elprimer tiempo de regreso al punto de inicio. Demuestre que

P(T = 2n) =1

2n 1(

2n

n

)22n.

Deduzca de lo anterior que E(T) Tj|S0 = 0)

(c) Concluir que la distribucion de M dado que S0 = 0 es geometrica de parametro p/q.

25

Captulo 3

Procesos de Galton-Watson

3.1. Funciones generadoras de probabilidades

Definicion 3.1.1 Dado X = (X1, X2, . . . , Xn) un vector aleatorio discreto con valores en Zn+ yfuncion de probabilidades conjunta fX(x1, x2, . . . , xn), definimos la funcion generadora de proba-bilidades del vector X por

GX(s1, s2, . . . , sn) := E[sX11 s

X22 sXnn

], |si| 1, i = 1, . . . , n,

=

x1,x2,...,xn

sx11 sx22 sxnn fX(x1, x2, . . . , xn)

De la definicion anterior obtenemos que la funcion generadora de probabilidades (f.g.p.) de Xiesta dada por

GXi(s) = GX(1, . . . , 1, s, 1, . . . , 1) = E[sXi], |s| 1,

donde s aparece en la i-esima entrada.Notemos que, en general GX(s) esta bien definida para todo |s| 1. En efecto,

|GX(s)| = |x

sxP(X = x)| x

|s|xP(X = x) x

P(X = x) = 1.

Sin embargo, en algunos casos, puede extenderse el rango de definicion de GX . Al numero R > 0tal que |GX(s)|

(ii) Si X Poisson(), se tiene

GX(s) =k=0

skk

k!e

= ees = e(1s)

(iii) Si X Geo(p), entonces

GX(s) =x=0

sxp(1 p)x

=p

1 (1 p)s, |s| q.

Observacion 3.2.3 En el ejemplo anterior sabemos que E(Z1) = p/q 1 si y solo si p q.Luego, en tal caso, lmn E(Zn) = 0 ya que E(Zn) = [E(Z1)]n. Lo cual nos indica que, de algunamanera, Zn tiende a cero cuando n tiene a infinito.

La propiedad anterior no es propia de caso geometrico como lo muestra el siguiente

Teorema 3.2.4 Se cumple que lmn P(Zn = 0) = existe. Mas aun, es la menor raz nonegativa de la ecuacion G(s) = s, 0 s 1.Demostracion: Sea n := P(Zn = 0), y sea la menor raz no negativa de de la ecuacion G(s) = s,0 s 1. Vamos a demostrar que n .

Consideremos los siguientes casos

1. Si fX(0) = 0, entoncesn = Gn(0) = 0 = .

2. Si fX(0) = 1, entoncesn = Gn(1) = 1 = .

3. Supongamos que fX(0) + fX(1) = 1 y fX(0)fX(1) 6= 0. Entonces,

n = Gn(0) = 1 P(Zn > 0)= 1 [fX(1)]n 1, cuando n,

y en este caso = 1.

32

4. Finalmente, supongamos que 0 < fX(0) < fX(0) + fX(1) < 1. Notemos que

{Zn = 0} {Zn+1 = 0},

entoncesn = P(Zn = 0) P(Zn+1 = 0) = n+1.

Luego, (n) es una sucesion creciente y acotada, y por lo tanto es convergente. Sea :=lmn n.

Por otro lado, sabemos que Gn+1(0) = G(Gn(0)), entonces

n = G(n),

en consecuencia si hacemos n tender a infinito, por continuidad se sigue que

= G().

Para concluir la prueba debemos demostrar que = . Notemos que,

1 = G1(0) = G(0) G(),

y2 = G2(0) = G(G(0)) = G(1) G() = .

Procediendo inductivamente obtenemos que n , entonces . Ahora bien, porhipotesis es la menor raz no negativa de la ecuacion G(s) = s, 0 s 1. Entonces, . Concluyendo as que

= .

Puede demostrarse que = 1 si E(X) < 1 y < 1 si E(X) > 1. Si E(X) = 1, entonces = 1siempre que Var(X) > 0, es decir, siempre que X no sea constante con probabilidad 1.

33

3.3. Ejercicios

1. Sean X y Y variables aleatorias con valores en los enteros no negativos, con funcion deprobabilidades conjunta dada por

fX,Y (i, j) = (1 )( )jij1, 0 i j,donde 0 < < 1 y < son parametros dados.

(a) Encuentre la funcion generadora de probabilidades conjunta del vector (X, Y ).

(b) Encuentre Cov(X, Y ).

2. Dado 0 < p < 1, considere la funcion

f(k) =(1 p)p|k|

1 + p, ,2,1, 0, 1, 2, .

(a) Verifique que f es una funcion de probabilidades de alguna variable aleatoria X.

(b) Encuentre la funcion generadora de probabilidades de X.

(c) Encuentre la media y la varianza de X.

3. Sean X1, X2, variables aleatorias independientes e identicamente distribuidas todas condistribucion logartmica, es decir,

P(X = k) =(1 p)kk log(1/p)

, k 1,

donde 0 < p < 1. Suponga que N es independiente de las Xis y tiene distribucion de Poissoncon parametro .

(a) Demuestre que Y :=N

i=1Xi tiene distribucion binomial negativa. Cuales son losparametros?

Sugerencia: recuerde que log(x) = (x 1) (x1)22

+ (x1)3

3+ .

(b) Encuentre la esperanza de Y .

4. Sea X una v.a. no-negativa con funcion generadora de probabilidades GX(s) tal que GX(1) 0 y Var(Z1) >0. Demuestre que E(ZnZm) = nmE(Z2m), m n. Luego, encuentre (Zn, Zm) en terminosde , donde (X, Y ) denota el coeficiente de correlacion entre X y Y .

8. Sea Z como en el ejercicio anterior y Gn la funcion generadora de probabilidades de Zn.

(a) Encuentre una expresion para Gn cuando la funcion generadora de Z1 esta dada porG1(s) G(s) = 1 (1 s), 0 < , < 1.(b)Encuentre P(Z1 = k), k = 0, 1, . . . .

9. Sea Z un proceso de Galton-Watson donde X (el numero de descendientes) es tal que P(X =0) = 2/5 = 1 P(X = 2). Encuentre la probabilidad de extincion de Z.

35

Bibliografa

[1] Caballero, M. E.; Rivero, V. M. Uribe Bravo, G.; Velarde, C. Cadenas de Markov. Unenfoque elemental Aportaciones Matematicas: 29. Sociedad Matematica Mexicana, Mexico,2004. iv+117 pp. ISBN 970-32-2189-0

[2] Fisher, R. A. The Genetical Theory of Natural Selection. Oxford (Claredon) Press. Londonand New York. (1962).

[3] Karlin, S. and Taylor, H. An introducction to Stochastic Modelling. Boston: Academic PressInc. (1998).

[4] Ross, S. M. Introduction to probability models. Academic Press. 8th Edition. (2003).

[5] Stirzaker, D. Elementary probability. Cambridge University Press. (1994).

36