22
Octubre, 2003 SIID SISTEMA INTEGRAL DE INFORMACION Y DOCUMENTACION Los indicadores en la evaluación del impacto de programas. Dr. (c) Juan Martín Sandoval De Escurdia Investigador Parlamentario en Política Social Lic. María Paz Richard Muñoz Asistente de Investigador ___________________________________________ Av. Congreso de la Unión No. 66, Col, El Parque, México, DF, 15969 Tels. 56-28-13-18, 56-28-13-00 Ext. 4805, Fax: 56-28-13-16 E-Mail: [email protected] Servicio de Investigación y Análi sis División de Política Social DPS-ISS 04 03

3-Los Indicadores en La Evaluacion Del Impacto de Programas

Embed Size (px)

DESCRIPTION

indicadores en la evaluación de programas y su impacto

Citation preview

  • Octubre, 2003

    SIID SISTEMA INTEGRAL DE

    INFORMACION Y DOCUMENTACION

    Los indicadores en la evaluacin del impacto de programas.

    Dr. (c) Juan Martn Sandoval De Escurdia Investigador Parlamentario en Poltica Social

    Lic. Mara Paz Richard Muoz

    Asistente de Investigador

    ___________________________________________

    Av. Congreso de la Unin No. 66, Col, El Parque, Mxico, DF, 15969

    Tels. 56-28-13-18, 56-28-13-00 Ext. 4805, Fax: 56-28-13-16 E-Mail: [email protected]

    Serv

    icio

    de Invest

    igaci

    n y

    Anli

    sis

    Div

    isi

    n d

    e P

    olt

    ica S

    oci

    al

    DPS-ISS 04 03

  • SIID. SIA. Divisin de Poltica Social Los indicadores en la evaluacin del impacto de programas

    Los indicadores en la evaluacin del impacto de programas

    CONTENIDO Pag. Resumen Ejecutivo 2

    Introduccin. 5

    1. Los indicadores en el contexto social 5

    2. Sobre la evaluacin del impacto de los programas 7

    3. Dato, Medida y Estadstica. 9

    4. Cual es el fin del establecimiento y utilizacin de los indicadores. 10

    5. Sobre la definicin de Indicadores. 11

    6. Limitaciones de los indicadores 11

    7. Caractersticas de los indicadores 12

    8. Tipos de indicadores (Cualitativos y cuantitativos) 13

    9. Acciones actuales en la Administracin Pblica 16

    10. Recomendaciones de la ONU a las oficinas de estadsticas de los pases 17

    11. Un caso para la construccin de indicadores 17

    Bibliografa. 20

  • SIID. SIA. Divisin de Poltica Social Los indicadores en la evaluacin del impacto de programas

    2

    Resumen Ejecutivo El propsito del presente documento es exponer qu son los indicadores y como se utilizan para la evaluacin de programas y polticas. Esto con el fin de aportar elementos para el anlisis sobre temas sociales a tratar en la actual LIX Legislatura, entre los cuales destacan la Ley de Desarrollo Social y la focalizacin de programas sociales para el combate a la pobreza. Programas que cada vez ms, requieren de seguimiento para ajustarlos a las necesidades reales. Los indicadores estadsticos constituyen una de las herramientas indispensables para contar con informacin relevante y oportuna para la toma de decisiones, el seguimiento de los compromisos y la rendicin de cuentas. Asimismo, son elementales para evaluar, dar seguimiento y predecir tendencias de la situacin de un pas, un estado o una regin, valorar el desempeo institucional y llevar a cabo la comparabilidad del desarrollo econmico y social. En trminos metodolgicos el documento se dividi en once puntos que abordan: la situacin que prevalece a nivel internacional en torno a los indicadores; la evaluacin del impacto de los programas y la cuestin de los indicadores. Esta ltima incluy el fin de su establecimiento, su definicin, sus limitaciones, sus caractersticas y los tipos. Asimismo contempl tanto acciones a nivel nacional como recomendaciones por parte de la ONU y un caso sobre cmo se construyen. La ONU se dio a la tarea de fomentar la generacin de estadsticas e indicadores1 por lo

    que poco a poco, cada nacin ha ido conformando una infraestructura estadstica que le ha permitido la descripcin, comparacin y evaluacin de su situacin con respecto al resto del mundo. Las reas en las que se han logrado importantes avances en la identificacin de indicadores son: demografa, economa y pobreza, educacin, salud y nutricin, trabajo y empleo; algunos temas estn an en proceso (como los de medio ambiente) y otros han presentado problemas (por ejemplo, los derechos humanos y el buen gobierno).

    Uno de los aspectos centrales del uso de indicadores es la evaluacin del impacto de los

    programas. Es decir, poder conocer los efectos que ha tenido determinada poltica o programa. En este sentido el documento aborda la evaluacin del impacto de los programas a travs de las siguientes preguntas:

    a) Qu es la evaluacin de impacto? b) Por qu es necesaria una evaluacin de impacto? c) Cundo realizar una evaluacin de impacto? d) Cmo evaluar el impacto de las intervenciones?

    1 La Comisin de Estadstica tiene un conjunto mnimo de 15 indicadores de cada pas para el seguimiento de las cumbres mundiales; el Comit de Asistencia para el Desarrollo de la OCDE tiene trabajados 21 indicadores de las metas de desarrollo internacional; la Comisin de Desarrollo Sustentable de las Naciones Unidas maneja 57 indicadores, y la ONU posee un conjunto bsico de indicadores sociales que dan cuenta del acceso de la poblacin a los servicios. La OCDE desarrolla y fomenta una segunda generacin de indicadores que muestran no slo los resultados de la implantacin de polticas, sino tambin los costos, insumos y procesos que participan en la efectividad de las polticas pblicas

  • SIID. SIA. Divisin de Poltica Social Los indicadores en la evaluacin del impacto de programas

    3

    As, se miden los cambios en el bienestar de los individuos atribuidos a un programa. Con base en estos cambios se toman decisiones para ampliar, modificar, eliminar o asignar prioridad a las acciones pblicas. Finalmente con la evaluacin se aprovecha el potencial de aprendizaje que se deriva de los resultados de los programas, por lo cual es importante seleccionar las acciones pblicas que se evaluarn y por lo tanto definir los indicadores que proporcionarn la informacin. El establecimiento y utilizacin de los indicadores facilita la vigilancia y la evaluacin

    sistemtica, ya que son parte del diseo del programa desde sus fases de iniciacin y planificacin. Sin embargo a pesar de su importancia como elemento operativo, los indicadores no cuentan con una definicin oficial por parte de algn organismo nacional o internacional, slo existen algunas referencias que los describen como herramientas para clarificar y definir, de forma ms precisa, objetivos e impactos (...) son medidas verificables de cambio o resultado (...) diseadas para contar con un estndar contra el cual evaluar, estimar o demostrar el progreso (...) con respecto a metas establecidas, facilitan el reparto de insumos, produciendo (...) productos y alcanzando objetivos y su construccin requiere un marco legal, programtico y normativo (nacional y/o internacional) que establece las necesidades de informacin para medir o analizar la situacin de la economa, la sociedad, la poblacin o el medio ambiente, respecto a determinados valores o metas perseguidos.

    Dentro de las limitaciones de los indicadores se tiene que:

    Para la seleccin de los que se consideren ms adecuados para cada objetivo, existen diferentes actores, como los sectores pblico, privado, social o acadmico que no comparten las mismas necesidades de informacin ni persiguen las mismas metas, lo cual dificulta lograr unanimidad en su definicin, y

    Su uso presupone que las metas de instituciones y dependencias pblicas, as como sus niveles de logro estn disponibles e identificables en planes y programas de gobierno y que no hay contradicciones entre los mismos. El depender de objetivos que son cambiantes, por lo menos en cada nueva administracin, no slo modifica el tipo de indicadores que deben ser empleados, sino tambin la disponibilidad de datos para conformarlos, lo que implica un ajuste permanente de las fuentes tradicionales de informacin.

    Entre las caractersticas de los indicadores, el documento aborda que estos deben estar inscrito en un marco terico o conceptual; ser especficos; explcitos; estar disponibles para varios aos; ser comparables; ser relevantes y oportunos; ser claros y de fcil comprensin; que la recoleccin de la informacin permita construir el mismo indicador de la misma manera y bajo condiciones similares de modo que las comparaciones sean vlidas; ser tcnicamente slido; es decir, vlido, confiable y comparable, as como factible, en trminos de que su medicin tenga un costo razonable; finalmente, ser sensible a cambios en el fenmeno. Es importante considerar el costo-beneficio del tiempo y los recursos necesarios para su construccin, por lo que, de preferencia, debe ser medibles a partir del acervo de datos disponibles.

  • SIID. SIA. Divisin de Poltica Social Los indicadores en la evaluacin del impacto de programas

    4

    Dentro de los tipos de indicadores se tienen los cualitativos y cuantitativos: a) Dependiendo del campo de conocimiento que se pretende analizar, b) Indicadores objetivos y subjetivos, c) Indicadores positivos o negativos, d) Indicadores absolutos y relativos, e) Indicadores que se aplican en la administracin pblica, f) Indicadores de contexto, g) Indicadores simples o sintticos.

    En relacin a las acciones actuales en la Administracin Pblica tanto el gobierno

    federal como el INEGI han estado trabajando en una poltica de rendicin de cuentas, que busca poner a disposicin de la sociedad un Sistema Estratgico de Resultados (SER) que constituya el vnculo directo entre los generadores de informacin, los que toman decisiones, y los usuarios de la misma. Este sistema es un instrumento que, permitir evaluar al pas en diferentes aspectos, dando seguimiento a los planes y programas de gobierno de las diferentes dependencias y a los diversos compromisos internacionales. Con este sistema se instrumenta en el sentido operativo- y se vincula la evaluacin de programas y la generacin de indicadores.

    En este sentido para contar con la informacin que permita la construccin de indicadores relevantes para medir el desarrollo, la ONU seala como esencial una slida infraestructura estadstica en la que los indicadores necesitan ser vistos como el producto final. Por ltimo el documento presenta un caso para la construccin de indicadores 2 del

    cual se retoman las siguientes conclusiones: El uso de indicadores de desempeo para ser verdaderamente til debe estar inserto en

    un proceso global de planeacin y formar parte de un enfoque de gestin integral de las instituciones.

    La construccin de indicadores de desempeo no es slo un procedimiento tcnico. Es simultneamente un proceso tcnico, poltico y social, que responde a decisiones de poltica, y slo resulta viable y se garantiza su legitimidad, si est sustentado en un proceso participativo.

    Los indicadores de desempeo deben ser comparables, vlidos y confiables y expresarse dentro de un contexto institucional especfico que permita detectar avances y retrocesos de la gestin y tomar decisiones sustantivas, con lo que se construya una verdadera dinmica de cambio institucional.

    La rendicin de cuentas es ms que simple transparencia de resultados administrativos y financieros. Significa la demostracin del cumplimiento de los fines sociales a los que est comprometida la institucin. De tal forma, las instituciones requieren hacer mayores esfuerzos para construir indicadores que reflejen el impacto social de sus tareas y para darlos a conocer de manera permanente.

    2 6 Encuentro Nacional de Responsables de Informacin Estadstica de las Instituciones de Educacin Superior. Universidad Nacional Autnoma de Mxico. Secretara de Planeacin y Reforma Universitaria y el Grupo Tcnico de Responsables de Estadstica y Planeacin Institucional. Auditorio C. P. Carlos Prez del Toro, Facultad de Contadura y Administracin. Ciudad Universitaria, DF, 11-13 de junio de 2003. www.planeacion.unam.mx/sextoencuentro/index_print.html

  • SIID. SIA. Divisin de Poltica Social Los indicadores en la evaluacin del impacto de programas

    5

    Los indicadores en la evaluacin del impacto de programas.3

    Introduccin Los indicadores estadsticos constituyen una de las herramientas indispensables para contar con informacin relevante y oportuna para la toma de decisiones, el seguimiento de los compromisos y la rendicin de cuentas en la forma de ejercicio del gobierno, y son elementales para: Evaluar, dar seguimiento y predecir tendencias de la situacin de un pas, un estado o

    una regin en lo referente a su economa, sociedad, desarrollo humano. Valorar el desempeo institucional encaminado a lograr las metas y objetivos fijados

    en cada uno de los mbitos de accin de los programas de gobierno. La comparabilidad del desarrollo econmico y social, ya que estamos inscritos en una

    cultura donde el valor asignado a los objetos, logros o situaciones slo adquiere sentido respecto a la situacin de otros contextos, personas y poblaciones, es decir, es el valor relativo de las cosas lo que les da un significado. 4

    En este sentido, la presente investigacin tiene como propsito exponer qu son los indicadores y como se utilizan para la evaluacin de programas y polticas. Esto con el fin de aportar elementos para el anlisis sobre temas sociales a tratar en la actual LIX Legislatura, entre los cuales destacan la Ley de Desarrollo Social y la focalizacin de programas sociales para el combate a la pobreza. Programas que cada vez ms, requieren de seguimiento para ajustarlos a las necesidades reales. 1. Los indicadores en el contexto social Desde mediados del siglo pasado, la ONU se dio a la tarea de fomentar la generacin de estadsticas e indicadores de utilidad para medir el nivel de vida de la poblacin y la situacin econmica de los pases. Poco a poco, en cada nacin, se ha ido conformando una infraestructura estadstica que ha permitido la descripcin, comparacin y evaluacin de su situacin con respecto al resto del mundo. Indicadores de diferente ndole han permitido caracterizar y ubicar a los pases en una determinada escala segn su grado de desarrollo. Los diversos organismos internacionales, entre ellos la ONU5, el Banco Mundial (BM), el Fondo

    3 Se agradece la colaboracin de la prestadora de Servicio Social a la pasante Claudia Mndez Garca. 4 MONDRAGN Prez, Anglica R. Qu son los indicadores?, Notas, Instituto Nacional de Estadstica, Geografa e Informtica (INEGI), No. 19, Julio-septiembre, 2002, Pg. 52 y sigs. 5 En cuyo sistema se encuentran el Programa de las Naciones Unidas para el Desarrollo (PNUD), el Fondo de Desarrollo de las Naciones Unidas para la Mujer (UNIFEM, por sus siglas en ingls), el Fondo de las Naciones Unidas para la Infancia (UNICEF, por sus siglas en ingls), el Fondo de Poblacin de las Naciones Unidas (FNUAP, por sus siglas en ingls), el Programa de las Naciones Unidas para el Medio Ambiente (PNUMA), la Organizacin Internacional del Trabajo (OIT), la Organizacin de las Naciones Unidas para la Agricultura y la Alimentacin (FAO, por sus siglas en ingls), la Organizacin de las Naciones Unidas para la Educacin, la

  • SIID. SIA. Divisin de Poltica Social Los indicadores en la evaluacin del impacto de programas

    6

    Monetario Internacional (FMI), la Organizacin para la Cooperacin y Desarrollo Econmico (OCDE) y el Instituto de Recursos Mundiales (IRM) se han enfocado a obtener indicadores comunes que permitan evaluar su situacin demogrfica, social, econmica y del medio ambiente con respecto a determinados objetivos y metas de carcter internacional.6 Con la celebracin, en el siglo pasado, de diversas cumbres mundiales7 que pretendan reorientar el desarrollo econmico hacia la mejora de las condiciones sociales de la poblacin, se ha derivado una serie de compromisos internacionales que han quedado asentados en documentos como el Programa de Accin para el Desarrollo Sustentable o Agenda 21, as como en plataformas, declaraciones y programas de accin que engloban una serie de objetivos y metas de las naciones, a la cual se debe dar seguimiento y que forma parte de la Agenda Social de las Naciones Unidas. 8 Las reas en las que se han logrado importantes avances en la identificacin de indicadores son demografa, economa y pobreza, educacin, salud y nutricin, trabajo y empleo; algunos temas estn an en proceso (como los de medio ambiente) y otros han presentado problemas (por ejemplo, los derechos humanos y el buen gobierno).9 Actualmente, la Comisin de Estadstica cuenta con un conjunto mnimo de 15 indicadores de cada pas para el seguimiento de las cumbres mundiales; por su parte, el Comit de Asistencia para el Desarrollo de la OCDE, en cooperacin con la ONU, el BM y el FMI, tiene trabajados 21 indicadores de las metas de desarrollo internacional; la Comisin de Desarrollo Sustentable de las Naciones Unidas maneja 57 indicadores, y finalmente la ONU posee un conjunto bsico de indicadores sociales que dan cuenta del acceso de la poblacin a los servicios. La OCDE desarrolla y fomenta, entre sus pases miembros, una segunda generacin de indicadores que muestran no slo los resultados de la implantacin de polticas, sino tambin los costos, insumos y procesos que participan en la efectividad de las polticas pblicas.10

    Ciencia y la Cultura (UNESCO, por sus siglas en ingls) y la Organizacin Mundial de la Salud (OMS), entre otras. 6 Asimismo, difunden diversos informes y reportes con sus evaluaciones y la evolucin de los pases y el mundo en su conjunto en diversos tpicos. 7 Conferencia de las Naciones Unidas sobre el Medio Ambiente y el Desarrollo, Ro de Janeiro, Brasil, 1992; Conferencia Internacional sobre Poblacin y Desarrollo, El Cairo, Egipto, 1994; Cumbre Mundial sobre Desarrollo Social, Copenhague, Dinamarca, 1995; Cuarta Conferencia Mundial sobre la Mujer, Beijing, China, 1995; y la Segunda Conferencia de las Naciones Unidas sobre Asentamientos Humanos Hbitat II, Estambul, Turqua, 1996. 8 Organismo que tiene la funcin de guiar todas las actividades en la materia de la ONU y colaborar con el Consejo Econmico y Social (ECOSOC) y con la Secretara General de las Naciones Unidas. La Comisin de Estadstica de las Naciones Unidas (integrada por un grupo de expertos, representantes de las oficinas de estadstica de varios pases) fue formada para que definieran los indicadores que serviran para realizar el seguimiento de los compromisos que los pases asumieron en las cumbres mundiales. Este trabajo ha permitido, por una parte, tener un listado bsico de indicadores ligados a las metas de las cumbres y, por otra, llevara cabo una evaluacin del nivel de madurez que, en materia estadstica, han alcanzado las naciones. MONDRAGN Prez, Anglica R. Qu son los indicadores?, Notas, Instituto Nacional de Estadstica, Geografa e Informtica (INEGI), No. 19, Julio-septiembre, 2002, Pg. 52 y sigs. 9 MONDRAGN Prez, Anglica R. Qu son los indicadores?, Notas, Instituto Nacional de Estadstica, Geografa e Informtica (INEGI), No. 19, Julio-septiembre, 2002, Pg. 52 y sigs. 10 Idem.

  • SIID. SIA. Divisin de Poltica Social Los indicadores en la evaluacin del impacto de programas

    7

    2. Sobre la evaluacin del impacto de los programas

    a) Qu es la evaluacin de impacto?11 La evaluacin de impacto mide los cambios en el bienestar de los individuos que pueden ser atribuidos a un programa o a una poltica especfica y sus objetivos son proveer informacin y ayudar a mejorar su eficacia. En este sentido, es una herramienta que utilizan los encargados de tomar decisiones en la formulacin de polticas, y que hacen posible que el pblico pueda exigir cuentas sobre los resultados de los programas. Existen otros tipos de evaluacin de programas, como las revisiones organizacionales y el monitoreo de procesos, pero stos no miden la magnitud de los efectos ni atribuyen la causalidad que corresponde a los efectos. Para la materia social, el anlisis causal es esencial para comprender la funcin relativa de la intervencin de programas alternativos, por ejemplo, en la reduccin de la pobreza.12

    b) Por qu es necesaria una evaluacin de impacto? La informacin generada por esta evaluacin ayuda a tomar decisiones sobre la necesidad de ampliar, modificar o eliminar cierta poltica o programa, y es posible utilizarla para asignarle prioridad a las acciones pblicas. Adems, estas evaluaciones contribuyen a mejorar la eficacia de las polticas y programas al abordar las siguientes preguntas: 13

    Logra el programa las metas propuestas? Son los cambios producidos un resultado directo del programa, o son resultado de

    otros factores que ocurrieron simultneamente? Cambia el impacto del programa dependiendo del grupo al que se est tratando de

    beneficiar (hombres, mujeres, pueblos indgenas), o de la regin, o a travs del tiempo?

    Tuvo el programa efectos inesperados, ya sean positivos o negativos? Qu tan eficiente es el programa en comparacin con intervenciones alternativas? Justifica el valor del programa su costo?

    c) Cundo realizar una evaluacin de impacto?

    Las evaluaciones de impacto requieren una gran cantidad de informacin, tiempo y recursos. Por esta razn, es importante seleccionar atentamente las acciones pblicas que se evaluarn. Uno de los aspectos importantes al momento de seleccionar los programas y polticas que se evaluarn, es el potencial de aprendizaje que se deriva de sus resultados. En general, es mejor evaluar programas a partir de los cuales se pueda extraer el mximo de

    11 La Evaluacin de Impacto se basa en gran medida en los siguientes materiales: Baker, Judy. 2000. Evaluacin del impacto de los proyectos de desarrollo en la pobreza: Manual para profesionales. Banco Mundial, Washington D.C. y Prennushi, G., G. Rubio and K. Subbarao. 2000. "Seguimiento y Evaluacin" En: Libro de Consulta para Estrategias de Reduccin de la Pobreza. Banco Mundial, Washington D.C. Banco Mundial. PovertyNet. Pobreza. Evaluacin del Impacto. http://www.worldbank.org/poverty/spanish/impact/overview/howtoevl.htm 12 Banco Mundial. PovertyNet. Pobreza. Evaluacin del Impacto. Op cit 13 Idem

  • SIID. SIA. Divisin de Poltica Social Los indicadores en la evaluacin del impacto de programas

    8

    conocimientos y que al mismo tiempo proporcionen informacin sobre formas de corregir los problemas que se presentan durante su operacin.14 Hay cuatro preguntas que pueden ayudar a decidir cundo realizar una evaluacin de impacto:

    Tiene la poltica o programa importancia estratgica en la reduccin de la pobreza? La decisin sobre qu evaluar depende de cules son las acciones pblicas ms importantes para reducir la pobreza. Se pueden evaluar las polticas y programas de las que se espera un mayor impacto en la reduccin de la pobreza, para asegurar que los esfuerzos en ese sentido siguen el camino correcto y permitir las correcciones necesarias.

    Contribuir la evaluacin de un determinado programa o poltica a llenar los vacos en el conocimiento sobre lo que sirve y no sirve para reducir la pobreza? Los resultados de la evaluacin de un programa pueden ayudar a optar por las alternativas ms eficaces en funcin de los costos para reducir la pobreza. Por esta razn, la decisin sobre qu evaluar tambin puede basarse en cunto se sabe sobre la eficacia de intervenciones alternativas. Si hay lagunas en el conocimiento sobre qu es lo que mejor funciona para reducir la pobreza, entonces se justifica una evaluacin de impacto.

    Este programa o poltica, pone a prueba enfoques innovadores para reducir la pobreza? La evaluacin debe fomentar el aprendizaje. Los esfuerzos para reducir la pobreza pueden requerir la implementacin de un programa con ideas nuevas. Una evaluacin de impacto puede ayudar a ensayar enfoques precursores y decidir si se deben ampliar y ejecutar a mayor escala. Por consiguiente, el carcter innovador de un programa o poltica puede ser una buena razn para evaluarlo. 15

    La poltica o programa, est destinado a grupos difciles de alcanzar, o se espera que su impacto dependa del gnero de los beneficiarios? Las polticas y programas destinados a grupos pobres difciles de alcanzar, se topan con una gran variedad de factores sociales, culturales, econmicos y organizacionales, que pueden contribuir a su xito o a su fracaso. Por estas razones, es de especial importancia que la evaluacin est bien diseada y sea bien ejecutada.

    d) Cmo evaluar el impacto de las intervenciones?

    La evaluacin de impacto de una poltica o programa gira en torno a una pregunta fundamental, qu hubiera sucedido si la intervencin no se hubiera realizado? Aunque esta situacin no se puede observar, se puede hacer una aproximacin mediante la construccin de un escenario hipottico16 en la que se trata de mostrar los distintos niveles de bienestar de los individuos en ausencia de la poltica o programa. Cmo construir o visualizar este escenario depende de varios factores, incluyendo la cobertura del programa.17

    14 Idem 15 Sin embargo, hay que hacer una advertencia importante: una evaluacin provechosa requiere de un programa suficientemente maduro. Aunque un programa est probando enfoques innovadores, necesita objetivos bien definidos y actividades bien delineadas, as como un marco institucional estable que se preste para la implementacin 16 Un escenario hipottico es un escenario contrafctico (terico) o una situacin hipottica. 17 Banco Mundial. PovertyNet. Pobreza. Evaluacin del Impacto. http://www.worldbank.org/poverty/spanish/impact/overview/howtoevl.htm

  • SIID. SIA. Divisin de Poltica Social Los indicadores en la evaluacin del impacto de programas

    9

    En programas de cobertura parcial, el escenario hipottico se logra comparando a los participantes en el programa (el grupo de tratamiento) con un grupo de control o de comparacin. El grupo de control o de comparacin est compuesto de personas (u otra unidad de anlisis, como hogar, escuela, organizacin) con las mismas caractersticas que los beneficiarios del programa, especialmente en relacin con su participacin en el programa y sus resultados, pero que no participan en el programa que se est evaluando.18 El punto clave al evaluar el impacto de los programas de cobertura parcial es cmo seleccionar o identificar a los no-participantes. Este grupo puede ser seleccionado al azar a travs de un proceso similar a una lotera, o se puede crear utilizando tcnicas estadsticas especiales. El grupo de no-participantes se llama grupo de control cuando sus miembros son elegidos al azar; si no es as, se llama grupo de comparacin. La eleccin del mtodo de identificacin del grupo de no-participantes determina el diseo de la evaluacin, que puede ser clasificado en una de las siguientes tres categoras: experimental, casi-experimental, y no-experimental. Estos diseos de evaluaciones varan en viabilidad, costo y en el grado de claridad y validez de los resultados. En algunas situaciones, no es posible formar un grupo de personas que queden al margen de la intervencin. Por ejemplo, en un programa nacional de almuerzos escolares no es posible tener grupos de control o de comparacin. Para este tipo de intervencin, se utiliza la misma pregunta para la evaluacin -cmo sera la situacin sin la poltica o programa?- pero la metodologa utilizada para contestarla vara. Las evaluaciones de las intervenciones de cobertura completa se basan principalmente en la comparacin de la situacin en la que se encuentra el grupo estudiado, antes y despus del programa (comparacin reflexiva). Otros mtodos para evaluar las intervenciones de cobertura completa incluyen simulaciones que usan modelos de equilibrio general computables, comparaciones entre pases con el programa y sin l, y controles estadsticos. Como se puede observar, la evaluacin del impacto de los programas sociales esta ntimamente relacionada al cumplimiento de sus objetivos y en el sentido de recoleccin de informacin y monitoreo de su operacin a los indicadores. Sin embargo, continuamente se confunde a los indicadores con toda serie de datos disponibles, medidas y estadsticas; por ello, es pertinente aclarar sus diferencias. 3. Dato, Medida y Estadstica. Dato.-Un dato hace referencia tanto a los antecedentes necesarios para el conocimiento de algo como a cada una de las cantidades que constituyen la base de un problema matemtico y/o estadstico, esto es, constituye un insumo para un proceso de construccin de conocimiento y/o de estadsticas.19

    18 Banco Mundial. PovertyNet. Pobreza. Evaluacin del Impacto. http://www.worldbank.org/poverty/spanish/impact/overview/howtoevl.htm 19 MONDRAGN Prez, Anglica R. Qu son los indicadores?, Notas, Instituto Nacional de Estadstica Geografa e Informtica (INEGI), No. 19, Julio-septiembre, 2002, Pg. 52 y sigs

  • SIID. SIA. Divisin de Poltica Social Los indicadores en la evaluacin del impacto de programas

    10

    Medida.- Una medida remite a imponer parmetros de cantidad, peso, volumen. Permite evaluar, en trminos cuantitativos, la importancia de un objeto o fenmeno comparndolo con otro de la misma especie. La precisin y valoracin son las principales cualidades que una medida permite efectuar entre los diversos objetos, sin embargo, no todas las medidas nos indican algo, en el sentido utilitario y semntico del trmino, por lo cual, si bien todos los indicadores son medidas, no ocurre igual de manera inversa.20 Estadstica.- Como ciencia pura, la estadstica21 se preocupa por definir, implantar y monitorear las metodologas y requisitos tcnicos mnimos que las estadsticas deben cumplir para considerarse vlidas, consistentes, confiables y representativas del fenmeno que se est midiendo. Ella define los estndares tcnicos y operativos necesarios para la obtencin de datos necesarios con validez y utilidad.22 Las estadsticas son vastas y sirven para diferentes propsitos, entre los que se encuentran el conteo y registro de los recursos humanos, econmicos y materiales de un pas o de una empresa con fines de administracin; el conocimiento del estado que guardan y la evolucin de los asuntos de inters pblico para su difusin; el registro de los asuntos de la administracin pblica, y el anlisis y estudio de las variables medidas con fines de investigacin y orientacin sobre nuevas necesidades de generacin de estadstica y poltica.23 Entre las caractersticas de una estadstica estn: el conteo; medida y descripcin de los fenmenos; ser exhaustivas, permanentes, tcnicas y orientadoras de los procesos para su obtencin, y ser suficientemente amplias para que cubran cualquier necesidad de exploracin de los fenmenos. Slo una pequea proporcin de las estadsticas pueden ser consideradas como indicadores; para ello se necesita, adems de cumplir con todos los requisitos tcnicos de una estadstica, que responda a ciertos requerimientos de informacin representativos del desarrollo econmico, social o humano.24 4. Cual es el fin del establecimiento y utilizacin de los indicadores. Facilita la vigilancia y la evaluacin sistemtica, los indicadores son parte del diseo del programa desde sus fases de iniciacin y planificacin. Se hace operacional por medio de un anlisis o valoracin de situacin con el fin de determinar la situacin existente (valores de base). Esto lleva al desarrollo de un plan del programa en el que se definen los objetivos que se desea alcanzar; de un plan de aplicacin con iniciativas concretas de intervencin, y de un plan de vigilancia y evaluacin.

    20 MONDRAGN Prez, Anglica R. Qu son los indicadores?, Op cit 21 De forma tradicional, la estadstica ha sido la ciencia que se ha dedicado a la reunin de todos los hechos que se pueden valorar de forma numrica para hacer comparaciones entre las cifras y sacar conclusiones aplicando la teora de las probabilidades. Incluye al conjunto de datos que son la materia prima para la construccin de estadsticas, as como el proceso metodolgico para su tratamiento 22 MONDRAGN Prez, Anglica R. Qu son los indicadores?, Op cit 23 Idem 24 Idem

  • SIID. SIA. Divisin de Poltica Social Los indicadores en la evaluacin del impacto de programas

    11

    Los indicadores son una parte crtica de este proceso de medicin que depende de la definicin y seleccin de indicadores, partiendo de la base de qu resultado de acciones son las que se miden. 25 5. Sobre la definicin de Indicadores. En sentido estricto Mondragn Prez26, seala que no existe una definicin oficial por parte de algn organismo nacional o internacional, slo algunas referencias que los describen como herramientas para clarificar y definir, de forma ms precisa, objetivos e impactos (...) son medidas verificables de cambio o resultado (...) diseadas para contar con un estndar contra el cual evaluar, estimar o demostrar el progreso (...) con respecto a metas establecidas, facilitan el reparto de insumos, produciendo (...) productos y alcanzando objetivos.27 Otra definicin que usan diferentes organismos y autores en el sentido social es que los indicadores sociales (...) son estadsticas, serie estadstica o cualquier forma de indicacin que nos facilita estudiar dnde estamos y hacia dnde nos dirigimos con respecto a determinados objetivos y metas, as como evaluar programas especficos y determinar su impacto.28 La construccin de indicadores requiere un marco legal, programtico y normativo (nacional y/o internacional) que establece las necesidades de informacin para medir o analizar la situacin de la economa, la sociedad, la poblacin o el medio ambiente, respecto a determinados valores o metas perseguidos. 29 6. Limitaciones de los indicadores Los indicadores no estn exentos de limitaciones para su conformacin; entre la problemtica que se puede presentar en su identificacin e integracin est la siguiente: Que para la seleccin de los que se consideren ms adecuados para cada objetivo, existen

    diferentes actores, como los sectores pblico, privado, social o acadmico que no comparten las mismas necesidades de informacin ni persiguen las mismas metas, lo cual dificulta lograr unanimidad en su definicin.

    El carcter cuantitativo hace que se generen indicadores slo de aquello que puede ser medido en cantidad.

    25 Organizacin Mundial para la Salud (OMS). Programacin para la Salud y el Desarrollo de los adolescentes. Informe de un grupo de estudio. OMS/FNUAP/UNICEF sobre programacin para la salud de los adolescentes. OMS, Serie de informes tcnicos No. 886. OMS, Ginebra, 2003. Pg. 227 - 234. 26 Quien es asesora de la Oficina de la Presidencia del Instituto Nacional de Estadstica, Geografa e Informtica. Telfono 01 (55) 52 78 10 09, exts. 1009 y 1235 27 Organizacin de las Naciones Unidas (ONU). Integrated and coordinated implementation and follow-up of major. Op cit. 28 2 Horn, Robert V. Statistical indicators for the economic and social sciences. Cambridge, University Press, Hong Kong, 1993, p. 147. 29 MONDRAGN Prez, Anglica R. Qu son los indicadores?, Op cit

  • SIID. SIA. Divisin de Poltica Social Los indicadores en la evaluacin del impacto de programas

    12

    El uso de indicadores presupone que las metas de instituciones y dependencias pblicas, as como sus niveles de logro estn disponibles e identificables en planes y programas de gobierno y que no hay contradicciones entre los mismos. El depender de objetivos que son cambiantes, por lo menos en cada nueva administracin, no slo modifica el tipo de indicadores que deben ser empleados, sino tambin la disponibilidad de datos para conformarlos, lo que implica un ajuste permanente de las fuentes tradicionales de informacin.30

    7. Caractersticas de los indicadores Dentro de las caractersticas que un indicador debe cumplir se encuentran las siguientes: Estar inscrito en un marco terico o conceptual, que le permita asociarse firmemente con

    el evento al que el investigador pretende dar forma. De ser posible, debe establecerse una estructura que lo ubique en un marco explicativo, como es el caso del modelo presin-estado-respuesta (PER) que utiliza la Organizacin para la Cooperacin y el Desarrollo Econmico (OCDE) para el trabajo con indicadores de medio ambiente, que los organiza para referenciar situaciones de presin, de estado o de respuesta en torno al tema.

    Ser especficos, es decir, estar vinculados con los fenmenos econmicos, sociales, culturales o de otra naturaleza sobre los que se pretende actuar; por lo anterior, se debe contar con objetivos y metas claros, para poder evaluar qu tan cerca o lejos nos encontramos de los mismos y proceder a la toma de decisiones pertinentes. Deben mostrarse especificando la meta u objetivo a que se vinculan y/o la poltica a la que se pretende dar seguimiento; para cumplirlas se recomienda que los indicadores sean pocos.31

    Ser explcitos, de tal forma que su nombre sea suficiente para entender si se trata de un valor absoluto o relativo, de una tasa, una razn, un ndice, etc., as como a qu grupo de poblacin, sector econmico o producto se refieren y si la informacin es global o est desagregada por sexo, edad, aos o regin geogrfica.

    Estar disponibles para varios aos, con el fin de que se pueda observar el comportamiento del fenmeno a travs del tiempo, as como para diferentes regiones y/o unidades administrativas.

    La comparabilidad es un insumo que permite fomentar el desarrollo social o econmico de acuerdo con lo que tenemos respecto a los dems o a otros momentos; de hecho, nociones socioeconmicas como produccin, pobreza y trabajo slo son comprensibles en trminos relativos.

    Deben ser relevantes y oportunos para la aplicacin de polticas, describiendo la situacin prevaleciente en los diferentes sectores de gobierno, permitiendo establecer metas y convertirlas en acciones. Los indicadores no son exclusivos de una accin especfica; uno puede servir para estimar el impacto de dos o ms hechos o polticas, o viceversa. 32 Para tener una evaluacin completa de un sector o un sistema, se requiere de un conjunto de indicadores que mida el desempeo de las distintas dependencias y/o sectores y

    30 MONDRAGN Prez, Anglica R. Qu son los indicadores?, Op cit. 31 Idem 32 MONDRAGN Prez, Anglica R. Qu son los indicadores?, Op cit

  • SIID. SIA. Divisin de Poltica Social Los indicadores en la evaluacin del impacto de programas

    13

    proporcione informacin acerca de la manera como stos trabajan conjuntamente para producir un efecto global.

    Ser claro y de fcil comprensin para los miembros de la comunidad, de forma que no haya duda o confusin acerca de su significado, y debe ser aceptado, como expresin del fenmeno que se desea medir. Para cada indicador debe existir una definicin, frmula de clculo y metadatos necesarios para su mejor entendimiento y socializacin. Por lo anterior, es importante que el indicador sea confiable, exacto en cuanto a su metodologa de clculo y consistente33

    Que la recoleccin de la informacin permita construir el mismo indicador de la misma manera y bajo condiciones similares, ao tras ao, de modo que las comparaciones sean vlidas.

    Tcnicamente debe ser slido, es decir, vlido, confiable y comparable, as como factible, en trminos de que su medicin tenga un costo razonable.

    Ser sensible a cambios en el fenmeno, tanto para mejorar como para empeorar. Ejemplos de cmo un indicador puede desviarse de medir la efectividad de una poltica, se encuentran de manera frecuente en el tema de medio ambiente, como cuando se tuvo que descartar el de superficie afectada por incendios para medir la efectividad de las acciones de gobierno, debido a que su comportamiento tambin depende de factores naturales no controlables.

    Si bien la seleccin de indicadores no debe depender de la disponibilidad de informacin proveniente de encuestas, censos y/o registros administrativos, sino de los objetivos fijados en los programas y proyectos de gobierno (dentro de los cuales se inscriben), es importante considerar el costo-beneficio del tiempo y los recursos necesarios para su construccin, por lo que, de preferencia, debe ser medibles a partir del acervo de datos disponible.34 8. Tipos de indicadores (Cualitativos y cuantitativos).

    a) Dependiendo del campo de conocimiento que se pretende analizar Segn el rea de conocimiento, se habla de indicadores econmicos, sociales, ambientales, etctera, cuyo fin es ser un insumo para evaluar el acercamiento a las metas de bienestar econmico, social y de conservacin del medio ambiente, respectivamente. La diferencia entre ellos es en las unidades de medida que utilizan: mientras que los indicadores econmicos lo hacen en unidades monetarias y/o productos, los sociales lo hacen en relacin a personas; y los ambientales, principalmente, en recursos naturales.35

    b) Indicadores objetivos y subjetivos Si consideramos la forma como se obtiene la informacin para construirlos, se puede diferenciar entre los indicadores objetivos y subjetivos:

    33 MONDRAGN Prez, Anglica R. Qu son los indicadores?, Op cit. 34 Idem 35 Idem

  • SIID. SIA. Divisin de Poltica Social Los indicadores en la evaluacin del impacto de programas

    14

    Para Mondragn Prez, los primeros se basan en evidencias externas independientes del informante (como podra ser el nivel educativo de la poblacin), suponiendo que los mtodos de captacin, procesamiento y divulgacin de la informacin son objetivos. Los segundos son juicios, casi siempre en modo y en concepto, y reflejan percepciones y opiniones de la poblacin con respecto a su situacin, a la de la sociedad o al pas; un ejemplo es la opinin respecto al grado de educacin alcanzado por los mexicanos.36

    Para Nussbaum y Sen, las palabras objetivo y subjetivo no son del todo claras, lo

    objetivo se refiere a informes de las condiciones reales y a la conducta evidente, en tanto que lo subjetivo consiste en la medicin de actitudes. La distincin tiene cierto parecido a la distincin filosfica entre las necesidades y los deseos (Barry, 1965, pag 38-52). Al usar indicadores subjetivos, de hecho se estn estudiando los deseos de las personas, sin embargo, los indicadores objetivos a veces refieren necesidades y a veces los deseos. Cuando se usan indicadores objetivos, no se pide a los informantes que evalen si sus condiciones de vida son buenas o malas, satisfactorias o insatisfactorias. Simplemente se les pide que informen de sus condiciones de vida o de su conducta de conformidad con algunos parmetros dados.37 Los indicadores objetivos se basan en observaciones externas y se aplican simplemente al conteo de diferentes actividades. Cuando se hacen preguntas sobre el ambiente fsico parece natural expresar las preguntas en trminos de satisfaccin / insatisfaccin. Cuando se hacen preguntas sobre las actitudes de las personas con respecto a sus relaciones con otras personas, parece adecuado hacer las preguntas en trminos de felicidad / infelicidad, en este caso estamos en el terreno de lo subjetivo. Cuando se hacen preguntas acerca de las relaciones de las personas con la sociedad y la naturaleza, el propsito es saber si la persona experimenta un aislamiento o alguna forma de desarrollo personal. La insatisfaccin, la infelicidad y el aislamiento son fenmenos sociales diferentes que es posible precisar. La correlacin entre la infelicidad en las relaciones sociales, con la insatisfaccin o el aislamiento es de cero, mientras que hay correlaciones positivas, aunque bastante dbiles, entre la insatisfaccin y el aislamiento.38

    Un problema bsico al que se enfrenta siempre quien elabora indicadores sociales, es que si al evaluar el nivel de bienestar humano, uno debe basarse en medidas objetivas de las condiciones externas o en la evaluacin subjetiva de los propios ciudadanos.39 El problema puede parecer trivial, pero su solucin no es autoevidente al evaluar el bienestar humano. Superficialmente, como ocurre con muchas condiciones socioeconmicas, podra parecer por lo menos muy democrtico basar los indicadores en las actitudes y opiniones propias de las personas. Sin embargo, es bien sabido que hay una gran variacin en la habilidad para expresar la satisfaccin y el descontento, y que algunas personas son menos

    36 Idem 37 NUSSBAUM, Marta y Amartya SEN (Comp) La calidad de vida. Fondo de Cultura Econmica, Serie Economa contempornea, 1999, Pag. 130 y sigs. 38 NUSSBAUM, Marta y Amartya SEN (Comp) La calidad de vida, Op cit. Pg. 133. 39 Idem.

  • SIID. SIA. Divisin de Poltica Social Los indicadores en la evaluacin del impacto de programas

    15

    capaces de expresar inteligiblemente sus recelos que otras. Por lo tanto, basar la eleccin del criterio del bienestar enteramente en las opiniones subjetivas de las personas probablemente conducir a un conservatismo poco fructfero. Por otra parte, ignorar por completo lo que las propias personas opinan da pauta al dogmatismo de los expertos. Sera ms fcil resolver el dilema si existieran fuertes correlaciones empricas entre los resultados de las medidas objetivas y de las subjetivas.40 Ante esto sealan Nussbaum y Sen- los indicadores objetivos generalmente son diseados por los expertos e investigadores sobre la base de lo que piensan que es necesario o deseado por los seres humanos.41 Sin embargo, es importante cuando son diseados por expertos que tienen en cuenta tanto las necesidades como los deseos de las personas al decidir lo que hay que registrar sobre las condiciones de vida de stas.42 El problema en opinin de Nussbaum y Sen- se solucion con la inclusin de indicadores subjetivos y objetivos43, que pareca ofrecer una solucin prcticas al disminuir el conservatismo generalmente asociado con el uso exclusivo de indicadores subjetivos, a la vez que evitaba el indebido dogmatismo resultante de la utilizacin nica de indicadores objetivos.44 c) Indicadores positivos o negativos Si lo que se pretende destacar son avances o rezagos de algn aspecto de la realidad, se habla de indicadores positivos o negativos; por ejemplo, para el tema de educacin, se puede hablar de ndices de alfabetismo o analfabetismo. Tambin, existen indicadores indeterminados (como la tasa de matrcula en educacin superior, de la cual, si bien se espera que aumente y alcance 100%, no necesariamente es positivo pues es imposible que toda la poblacin alcance este nivel de estudios).45 d) Indicadores absolutos y relativos Cuando la evaluacin del indicador depende de un valor determinado (como puede ser un valor mximo o mnimo que se debe cumplir), o de la posicin relativa del pas o de las poblaciones con respecto a otras, entonces hablamos de indicadores absolutos y relativos. Los primeros dependen de una meta a cubrir (como puede ser un 100% de alfabetismo, asistencia escolar, poblacin ocupada, etc.), mientras que los segundos ubican la posicin de una unidad geogrfica (como un pas, con respecto a otras unidades), un ejemplo es el ndice de desarrollo humano.46 40 Idem 41 Idem. 42 NUSSBAUM, Marta y Amartya SEN (Comp) La calidad de vida. Op cit 43 Esta opinin se bas en el Estudio Comparativo sobre el Bienestar Escandinavo. 44 NUSSBAUM, Marta y Amartya SEN (Comp) La calidad de vida. Op cit 45 MONDRAGN Prez, Anglica R. Qu son los indicadores?, Op cit pag 52 y sigs 46 Idem

  • SIID. SIA. Divisin de Poltica Social Los indicadores en la evaluacin del impacto de programas

    16

    e) Indicadores que se aplican en la administracin pblica Otros esquemas que se aplican en la administracin pblica organizan a los indicadores en: de gestin y de resultado, de insumos y productos, y otros ms complejos que van desde costos, insumos, procesos, productos y resultados.47 f) Indicadores de contexto Aunque no reflejan de forma directa la situacin del sector que se quiere evaluar, son parte del ambiente que afecta la situacin social, econmica o ambiental y pueden modificar el comportamiento de los fenmenos bajo observacin. Es comn que se considere al producto interno bruto (PIB) per cpita, a la tasa de fecundidad y a la de crecimiento de la poblacin, entre otros, como indicadores de contexto.48 g) Indicadores simples o sintticos Dependiendo del tipo de medicin o procedimiento estadstico que se requiere para su obtencin, los indicadores pueden ser clasificados como simples (si se trata de una estadstica univariada y/o poco complicada), o sintticos (si se habla de un agregado que sintetiza la situacin global de un sector determinado y que incluye varios componentes del mismo). En este sentido, es importante aclarar que un indicador no debe ser, necesariamente, una estadstica derivada, es decir, un valor absoluto (como el monto de la poblacin), ya que puede constituir un indicador cuando se le inscribe en una serie de tiempo que nos permite evaluar si su evolucin se est acercando o alejando de las expectativas esperadas.49 9. Acciones actuales en la Administracin Pblica En el contexto de la actual administracin del pas tanto el gobierno federal como el INEGI han estado trabajando en una poltica de rendicin de cuentas, la cual busca poner a disposicin de la sociedad un Sistema Estratgico de Resultados (SER) que constituya el vnculo directo entre los generadores de informacin, los que toman decisiones y los usuarios de la misma. Este sistema ser un instrumento que, adems, permitir evaluar al pas en diferentes aspectos, dando seguimiento a los planes y programas de gobierno de las diferentes dependencias y a los diversos compromisos internacionales. Para los generadores de informacin esta labor implica que su trabajo en los diversos asuntos de inters nacional e internacional pasa a ser no slo un asunto de estadstica, sino tambin de poltica. En este sentido, se requiere de una permanente colaboracin entre quienes toman decisiones y las oficinas de estadstica de cada pas, as como entre estas ltimas y las agencias internacionales.50 Ntese que con este sistema se instrumenta en el sentido operativo- y se vincula la evaluacin de programas y la generacin de indicadores.

    47 Idem 48 Idem 49 Idem 50 MONDRAGN Prez, Anglica R. Qu son los indicadores?, Op cit, Pg. 52 y sigs

  • SIID. SIA. Divisin de Poltica Social Los indicadores en la evaluacin del impacto de programas

    17

    De igual forma, esta tarea nos lleva a preguntarnos si el bagaje de informacin estadstica disponible (tanto en el INEGI como en todas las instancias pblicas y privadas) est realmente respondiendo en disponibilidad, calidad, relevancia y oportunidad a las necesidades, nuevas y cambiantes, de la sociedad.51 10. Recomendaciones de la ONU a las oficinas de estadsticas de los pases. Para contar con la informacin que permita la construccin de indicadores relevantes para medir el desarrollo a nivel nacional e internacional, la ONU seala que una slida infraestructura estadstica es esencial, y en ella los indicadores estadsticos necesitan ser vistos como el producto final de una compleja infraestructura estadstica, que es fundamental si los indicadores quieren ser producidos con una calidad adecuada, lo que significa: Apuntalar los sistemas para crear y mantener los marcos muestrales para las encuestas en

    establecimientos y en hogares. Contar con una masa crtica de las actividades estadsticas que se realizan: diseo de

    encuestas, coleccin y anlisis de datos, con el fin de alimentar las habilidades profesionales bsicas.

    Desarrollar, a lo largo del tiempo, la capacidad tcnica y profesional para mantener y desarrollar sistemas de acuerdo con estndares internacionales. Desarrollar la capacidad analtica que permita identificar la prdida de relevancia de informacin y el surgimiento de nuevas necesidades.

    Adecuar la estructura estadstica. Realizar un buen manejo para hacer el mejor uso de los recursos disponibles.52 11. Un caso para la construccin de indicadores En este caso se describen los propsitos y conclusiones del evento Importancia de los Indicadores de Desempeo para el Desarrollo de una Cultura de la Planeacin, Evaluacin y Rendicin de Cuentas (2003). Los propsitos centrales del evento fueron:

    Promover la reflexin y anlisis de los responsables de estadstica y planeacin de la UNAM y de las instituciones de educacin superior, acerca de las tendencias y situacin que registra el uso de indicadores de desempeo en las instituciones de educacin superior como herramienta de apoyo a los procesos de planeacin, evaluacin, toma de decisiones y rendicin de cuentas.

    Intercambiar experiencias entre los responsables de estadstica y planeacin de la UNAM y de las instituciones de educacin superior, respecto a los avances y desafos

    51 Idem 52United Nations Economic and Social Council. Report of the Friends of the Chair of the Statistical Commission. An assessment of the statistical indicators derived from United Nations summit meetings. Statistical Commission, thirty-third session, 5-8 march, 2002, distribution general november, 2001, pp. 14-16. Citado en: MONDRAGN Prez, Anglica R. Qu son los indicadores?, Op cit

  • SIID. SIA. Divisin de Poltica Social Los indicadores en la evaluacin del impacto de programas

    18

    que enfrentan en el uso de indicadores para medir y evaluar el desempeo y la gestin institucionales.

    Identificar propuestas y criterios para el desarrollo de metodologas que permitan fortalecer el diseo y uso de indicadores de desempeo en las instituciones de educacin superior, considerando las especificidades derivadas de las funciones de docencia, investigacin, extensin universitaria y gestin institucional.

    El Encuentro cont con la intervencin de 12 destacados especialistas que expusieron distintos enfoques y experiencias sobre la construccin y aplicacin de los indicadores a nivel nacional e internacional.53 Son de destacar algunas ideas relevantes en la tarea de definir, construir, instrumentar y evaluar los indicadores de desempeo:

    El uso de indicadores de desempeo para ser verdaderamente til debe estar inserto en un proceso global de planeacin y formar parte de un enfoque de gestin integral de las instituciones educativas.

    La gestin institucional slo puede mejorar de manera sistemtica y sistmica si los diversos actores que conforman la organizacin, comparten la visin y la misin institucional y esto se expresa en una eficiente coordinacin y colaboracin entre sus diversos niveles, reas y equipos. En tal sentido, los indicadores deben estar directamente asociados al logro de la misin y los fines institucionales, as como a los programas estratgicos en curso.

    Resulta fundamental concebir a la generacin y uso de indicadores de desempeo como un instrumento de apoyo y de evaluacin, siempre consensado, nunca coercitivo, dentro del proceso de planeacin.

    La construccin de indicadores de desempeo no es slo un procedimiento tcnico. Es simultneamente un proceso tcnico, poltico y social, que responde a decisiones de poltica, y slo resulta viable y se garantiza su legitimidad, si est sustentado en un proceso participativo.

    Los indicadores de desempeo deben apoyar el desarrollo institucional, lo cual slo es factible si stos sirven, son pertinentes, vlidos y confiables para tomar decisiones sustantivas. En tal sentido, es preciso centrar los esfuerzos en la generacin de indicadores de desempeo con carcter estratgico. Los esfuerzos para construir estos indicadores no parten de cero. El sector educativo, y en particular la UNAM, cuenta con una larga experiencia que es necesario aprovechar y potenciar para avanzar hacia la construccin de un sistema de indicadores de desempeo de las instituciones de educacin superior que sirva para impulsar el desarrollo de la educacin con una visin integral, de largo plazo.

    La rendicin de cuentas es ms que simple transparencia de resultados administrativos y financieros. Significa la demostracin del cumplimiento de los fines sociales a los que est comprometida la institucin. De tal forma, las instituciones de educacin pblica superior requieren hacer mayores esfuerzos para construir indicadores que reflejen el impacto social de sus tareas y para darlos a conocer de manera permanente.

    53 6 Encuentro Nacional de Responsables de Informacin Estadstica de las Instituciones de Educacin Superior. Universidad Nacional Autnoma de Mxico. Secretara de Planeacin y Reforma Universitaria y el Grupo Tcnico de Responsables de Estadstica y Planeacin Institucional. Op cit.

  • SIID. SIA. Divisin de Poltica Social Los indicadores en la evaluacin del impacto de programas

    19

    Es necesario conferir importancia a la vinculacin entre la realidad y los indicadores de desempeo, as como a la necesidad de reconocer las particularidades de cada institucin al momento de ser evaluadas.

    Resulta necesario coordinar esfuerzos entre las instituciones y al interior de ellas para estandarizar los indicadores de manera que constituyan una herramienta eficaz para la comparacin de resultados, en el tiempo, y entre instituciones.

    Es de gran importancia la participacin social en la generacin de indicadores como una herramienta de evaluacin no coercitiva y que vayan ms all de las cifras, que realmente informen a la sociedad sobre los logros significativos de las universidades pblicas.

    Los indicadores de desempeo deben ser comparables, vlidos y confiables y expresarse dentro de un contexto institucional especfico que permita detectar avances y retrocesos de la gestin y con ello construir una verdadera dinmica de cambio institucional.

    Es importante destacar que todos los ponentes coincidieron en que el empleo de indicadores educativos tiene una amplia tradicin en Mxico, que se remonta a la dcada de los aos setenta, por lo que en las instituciones de educacin superior se cuenta con una experiencia que debe ser aprovechada, sin perder de vista que slo a travs de un enfoque participativo, se lograr construir un sistema de indicadores de desempeo pertinente, vlido, legtimo y til para la toma de decisiones. 54

    54 Idem.

  • SIID. SIA. Divisin de Poltica Social Los indicadores en la evaluacin del impacto de programas

    20

    Bibliografa NUSSBAUM, Marta y Amartya SEN (Comp) La calidad de vida. Fondo de Cultura Econmica, Serie Economa contempornea, 1999 MONDRAGN Prez, Anglica R. Qu son los indicadores?, Notas, Instituto Nacional de Estadstica, Geografa e Informtica (INEGI), No. 19, Julio-septiembre, 2002 Organizacin Mundial para la Salud (OMS). Programacin para la Salud y el Desarrollo de los adolescentes. Informe de un grupo de estudio. OMS/FNUAP/UNICEF sobre programacin para la salud de los adolescentes. OMS, Serie de informes tcnicos No. 886. OMS, Ginebra, 2003 6 Encuentro Nacional de Responsables de Informacin Estadstica de las Instituciones de Educacin Superior. Universidad Nacional Autnoma de Mxico. Secretara de Planeacin y Reforma Universitaria y el Grupo Tcnico de Responsables de Estadstica y Planeacin Institucional. Auditorio C. P. Carlos Prez del Toro, Facultad de Contadura y Administracin. Ciudad Universitaria, DF, 11-13 de junio de 2003. www.planeacion.unam.mx/sextoencuentro/index_print.html Banco Mundial. PovertyNet. Pobreza. Evaluacin del Impacto. http://www.worldbank.org/poverty/spanish/impact/overview/howtoevl.htm

  • SECRETARA GENERAL Lic. Patricia Flores Elizondo

    Secretaria General

    SECRETARA DE SERVICIOS PARLAMENTARIOS Lic. Alfredo del Valle Espinosa

    DIRECCIN DE SERVICIOS DE BIBLIOTECAS

    SISTEMA INTEGRAL DE INFORMACIN Y DOCUMENTACIN

    Dr. Francisco Luna Kan Director General

    SERVICIO DE INVESTIGACIN Y ANLISIS Dr. Jorge Gonzlez Chvez

    Coordinador

    DIVISIN DE POLTIC A SOCIAL Dr. (c) Juan Martn Sandoval de Escurdia.

    Investigador Parlamentario

    Lic. Mara Paz Richard Muoz. Asistente de Investigador Parlamentario