Suficiencia y familia exponencialPrograma de doctorado en Estadstica, Anlisis de datos y BioestadsticaFundamentos de Inferencia EstadsticaJordi Ocaa Rebull

Puntos a tratarIdea intuitiva de suficienciaDefinicin de suficienciaTeorema de factorizacin de NeymanSuficiencia en trminos de verosimilitudes equivalentesEstadstico suficiente minimalFamilias o modelos exponencialesPropiedades de los modelos exponenciales

Idea intuitiva de suficienciaUn estadstico T es suficiente para un parmetro q si, para cualquier muestra y, el valor t = T(y) contiene toda la informacin relevante sobre q que contena yEn este sentido, T es buen resumen de la informacin de la muestraQu significa la informacin que contiene una muestra?

Definicin de suficienciaDado un modeloel estadstico T (posiblemente multidimensional) es suficiente para el parmetro q sii la distribucin de Y condicionada al valor observado de T, f(y|T=t), no depende de qConocido T, la probabilidad asociada a la muestra ya no depende del parmetro

Teorema de factorizacin de NeymanDefinicin anterior equivalente a poder escribir.o, equivalentemente,es decir, la muestra solamente interviene en la funcin de verosimilitud a travs del valor del estadstico

Estadsticos suficientes, ejemplosEstadstico suficiente trivial. Caso PoissonCaso trivial: la propia muestra, T(y)=yParmetro l de una Poisson para una m.a.s. y=(y1, ..., yn) y los estadsticos:frecuencias de los valores presentes en y:suma:promedio:todos son suficientespero los dos ltimos de menor dimensin

Estadsticos suficientes, ejemplosParmetros de la normal univarianteCaso en el que y es m.a.s. de tamao n de normal N(m,s2), q = (m,s2)muestra ordenadasuma y suma de cuadradosmedia muestral y varianza muestraltodos son suficientes

Estadsticos suficientes, ejemplosParmetro p en experimentos de Bernouilliy1, ..., yn Bernouilli b(1,p) iid, indicadores de ocurrencia de suceso A, Pr(A)=p,frecuencia absoluta estadstico suficiente para p(o tambin frecuencia relativa)

Estadsticos suficientes, ejemplosExperimentos de Bernouilli multinomialesGeneralizable al caso multinomial, cada yi ser ahora (yi1, ..., yik), yij=0 1 (con un solo 1 y (k-1) 0), indicadores de k sucesos mutuamente excluyentes (A1, ..., Ak) con probabilidades (p1, ..., pk),El estadstico suficiente es ahora

Suficiencia en trminos de verosimilitudes equivalentesPara el modelo F un estadstico T(y) es suficiente para el parmetro q sii toma los mismos valores en dos puntos y, z del espacio muestral slo si tienen verosimilitudes equivalentes, es decir:Podra servir de definicin de suficienciaConcepto dependiente del modelo

Comentarios sobre el sentido del concepto de suficiencia. IEl resultado final de los experimentos, y, concebible como obtenido en dos fases:Seleccionar el valor de t a partir de densidad g(t,q) (dependiente de q)Equivalente a haber escogido el conjunto de las muestras que podrian conducir a t: At = {y:T(y)=t}. De l se extrae finalmente un elemento y At segn ley de probabilidad que no depende de q

Comentarios sobre el sentido del concepto de suficiencia. IIy, z At T(y)=T(z)=t L(q;y) L(q;y)Ms importante que valor concreto t es el conjunto de muestras At asociadas: estadstico suficiente parte el espacio muestral en clases de equivalencia, L nica dentro de cada una ellas cualquier estadstico U funcin montona de T tambin es suficiente

Estadstico suficiente minimalEstadstico suficiente puede no ser suficientemente resumido: demasiados valores posibles, no todos informativosT es suficiente minimal para q sii es suficiente y toma valores distintos slo para verosimilitudes no equivalentes:

Comentarios sobre el estadstico suficiente minimalSiempre existe, cualquiera asociado a la particin de Y segn L equivalentesel valor concreto que tome no importa, lo importante es que cada valor distinto debe representar L distintaesencialmente el mismo, invariante respecto de transformaciones biyectivasCriterio prctico para identificarlos:

Familias o modelos exponencialesUn modelo F es exponencial sii sus elementos se pueden escribir de la forma:Por lo tanto, forma de la verosimilitud:

Ejemplos de modelos exponenciales: binomial

Ejemplos de modelos exponenciales: normal

PropiedadesReproducibleSoporte independiente del parmetroSi modelo reducido (no q redundantes), (t1, ..., tr) suficiente minimal para qDiferenciable de cualquier orden respecto de q si i lo sonIntegral y derivada intercambiables en

Demostracin: