View
218
Download
0
Category
Preview:
Citation preview
Página 1
Página 2
INDICE
01. M&E EN LA AGENDA DE INVERSIÓN SOCIAL 3
02. TENDENCIAS REGIONALES EN M&E 4
03. TENDENCIAS LOCALES EN M&E: ARGENTINA, BRASIL, PERÚ y EEUU. 7
3.1. ARGENTINA: EL ROL EMPRESARIO EN LA AGENDA DE INVERSIÓN SOCIAL 7
3.2. INVERSIÓN SOCIAL EN BRASIL: SER ESTRATÉGICO ES UNA ELECCIÓN 8
3.3. SISTEMATIZACIÓN Y EVALUABILIDAD EN PERÚ 10
3.4. EEUU: NUEVOS PARADIGMAS EN LA FILOSOFÍA DEL DONANTE 11
04. A LA LUZ DE LOS ARGUMENTOS 13
05. CONCLUSIONES: DE CARA A LAS OPORTUNIDADES 14
APÉNDICE: RECOMENDACIONES PARA LOGRAR UNA ESTRATEGIA DE M&E 16
CITAS Y REFERENCIAS 18
Publicación elaborada y coordinada por:
Agustina Budani Maximiliano Luft Con la colaboración de:
Elenice Tamashiro, Jorge Cabrejos y Martin Manville Edición general: Carmen Aranguren
ZIGLA CONSULTORES SE ESPECIALIZA EN
GESTIÓN ESTRATÉGICA DEL CONOCIMIENTO EN AMÉRICA LATINA.
A través de su staff y red de consultores, ZIGLA cuenta con más de 10 años
de experiencia en el desarrollo de productos y servicios para Organismos de
Cooperación Internacional, Empresas, Gobiernos, Fundaciones y
Organizaciones sociales.
Página 3
01. M&E EN LA AGENDA DE INVERSIÓN SOCIAL
En los últimos años América Latina dio pasos claros hacia la construcción de
una agenda de Inversión Social. Impulsada por fundaciones y organizaciones
sociales, y luego dinamizada por los organismos de cooperación
internacional y las empresas, la participación institucional organizada para
enfrentar problemas sociales fue redefiniendo el alcance de la filantropía
tradicional hasta moldear un enfoque más acorde a los tiempos que corren.
Estrategia, innovación, impacto y sustentabilidad son algunas de las claves
conceptuales de esta agenda. Se trata, en pocas palabras, de un papel más
activo y sostenido para aquellos que tienen buenas intenciones y asumen el
compromiso de movilizar recursos para dar respuesta a problemas sociales.
La agenda está en construcción. Sobresalen los innovadores, mientras
acompañan los moderados, como siempre. Hay patrones comunes y
desniveles; vanguardias y retaguardias, y un variopinto escenario con
diferentes niveles de riesgo para quienes toman decisiones. También hay
una distancia aún muy grande entre la contundencia de los acuerdos
discursivos (que fluye en papers, seminarios y congresos) y los resultados de
su implementación, que avanzan pacientemente por goteo.
Es cierto que en la última década los temas tradicionales como la pobreza, la
educación y la salud cedieron protagonismo en la agenda filantrópica
regional, para dar lugar a nuevas preocupaciones como la gobernabilidad
democrática, el medioambiente y el desarrollo económico (ZIGLA y AVINA 2010).
Pero lo más interesante de esta incipiente agenda regional de Inversión
Social no tiene tanto que ver con los “qué” sino con los “cómo”. Es decir, con
un enfoque más profundo, sistémico y programático que contempla nuevas
herramientas e instancias de planificación para atacar las causas de los
problemas sociales más que sus consecuencias.
En este contexto todos coinciden en que ya no alcanza con tener buenas
intenciones, sino que es necesario desarrollar proyectos capaces de generar
cambios sociales significativos, medibles y replicables. Y es justamente a
partir de ese consenso que se instala definitivamente en la agenda de
inversión social la necesidad de incorporar estrategias de monitoreo,
evaluación y medición de impacto en programas sociales.
¿Qué lugar ocupa el Monitoreo y Evaluación (M&E) en la agenda de
inversión social latinoamericana? ¿Cuáles son las principales tendencias?
¿Cuándo y por qué vale la pena medir impacto? ¿Cuáles son los argumentos
comunes de quienes no lo hacen y por qué estos argumentos brindan una
excelente oportunidad? De todo esto se trata este artículo.
“Todos coinciden en que ya no alcanza con
tener buenas intenciones, sino que
es necesario desarrollar proyectos capaces de
generar cambios sociales significativos,
medibles y replicables. Por eso se instala en la
agenda de inversión social la necesidad de incorporar estrategias
de monitoreo, evaluación y medición
de impacto en
programas sociales”.
Página 4
02. TENDENCIAS REGIONALES EN M&E
Entre los meses de septiembre y octubre de 2010, ZIGLA Consultores
realizó un estudio en América Latina sobre Monitoreo, Evaluación y Medición
de Impacto en Programas Sociales. El estudio se elaboró en base a una
consulta de opinión a 161 referentes y líderes del sector social de 21 países
la región, y tiene por objeto identificar y mapear necesidades y tendencias en
la región en materia de evaluación y medición de impacto social.
Con el fin de identificar cómo y en qué momento del ciclo del proyecto se
definen e implementan las estrategias de evaluación, se consultó acerca de
diferentes aspectos vinculados a la aplicación de herramientas de monitoreo,
evaluación y medición de impacto en programas sociales.
A partir de los resultados obtenidos se identificaron las siguientes tendencias
generales:
A pesar de que el 97% de los consultados coincide en que es
bastante/muy importante contar con información de resultados
previos para la toma de decisiones en el diseño y planificación
de programas, más de un tercio de ellos no define su
estrategia de evaluación desde la etapa de diseño.
En este contexto, se observa también que más de la mitad de
los consultados no cuenta con metodologías de medición de
impacto, apenas el 18% ha podido monetizar su impacto y el
14% no cuenta con instancias de evaluación.
Si bien el 81% cuenta con una etapa de evaluación final de
resultados, cerca del 40% de los consultados se muestra poco
o nada satisfecho con las metodologías de evaluación
implementadas.
La mayoría de las organizaciones que lleva adelante
evaluaciones para medir y monetizar el impacto de sus
programas reconoce que la experiencia fue muy útil para tomar
decisiones.
Más del 90% reconoce que le interesa incorporar herramientas
de medición de impacto a sus estrategias de programa.
De los resultados y tendencias identificadas vale la pena detenerse en dos
aspectos significativos. El primero de ellos, está vinculado al “cuándo”; es
decir, al momento oportuno para definir cuál será la metodología de M&E del
programa. Es bien sabido que las condiciones de evaluabilidad de un
proyecto están determinadas por el momento en el que se define la
estrategia que se utilizará para capturar y evaluar sus alcances y resultados.
“Es bien sabido que las condiciones de evaluabilidad de un proyecto están determinadas por el momento en el que se define la estrategia que se utilizará para capturar y evaluar sus alcances y
resultados.”
Página 5
Al fijar los elementos determinantes de un proyecto de forma clara y precisa
desde su diseño, las tareas de Gestión, Monitoreo y Evaluación se verán
facilitadas por el marco dado y permitirán desarrollar proyectos que sean
medibles y analizables en el corto, mediano y largo plazo.
Sin embargo, a pesar de que una buena formulación de proyecto facilita las
tareas de monitoreo y análisis constante de resultados, es muy importante
definir desde el comienzo qué tipo de seguimiento y evaluación incluirá el
proyecto.
En un contexto con resultados generales alentadores, el Estudio 2010
muestra un signo de atención aquí. Como puede verse en el Gráfico 1, llama
la atención que una tercera parte de los consultados decida qué y cómo
monitorear y evaluar una vez que sus programas están en marcha.
Fuente: Elaboración propia en base a resultados del Estudio “Monitoreo, Evaluación y Medición de Impacto en Programas Sociales, América Latina” de ZIGLA Consultores, 2010.
Para diseñadores e implementadores de proyectos sociales ha sido
tradicionalmente un verdadero desafío formular programas que cuenten con
estrategias integrales de monitoreo y evaluación. Son muchas las
metodologías, técnicas y herramientas, y su pertinencia depende a su vez de
muchas variables inherentes al proyecto y también al contexto.
Generalmente, las razones presupuestarias o de tiempo terminan demorando
estas decisiones y relegando su lugar y su alcance. Pero establecer desde el
comienzo qué, cómo, cuándo y con qué se evaluará es una de las claves
para poder medir bien.
Total
Gráfico 1. ¿En qué instancia del ciclo del proyecto diría Ud. que se definen
las herramientas o metodologías de evaluación de resultados?
“Llama la atención que
una tercera parte de los consultados decida qué y cómo monitorear y evaluar una vez que sus programas están
en marcha: establecer desde el comienzo
qué, cómo, cuándo y con qué se evaluará es una de las claves para
poder medir bien.
Página 6
El segundo aspecto que merece especial atención, tiene que ver con buenas
prácticas en M&E. Para ello, y con el fin de poder interpretar los principales
resultados se presenta más abajo una secuencia (Gráfico 2) que resume un
posible ciclo virtuoso en M&E, con la correspondiente frecuencia de casos
afirmativos provenientes del Estudio 2010.
Fuente: Elaboración propia en base a resultados del Estudio “Monitoreo, Evaluación y Medición de Impacto en Programas Sociales, América Latina” de ZIGLA Consultores, 2010.
Como se puede ver, la mayoría de los consultados realiza evaluación final de
sus programas. Desde ya que esto es auspicioso, pero no deja de ser
interesante analizar este resultado en perspectiva junto con el resto de las
instancias del ciclo. Si tomamos en cuenta que una tercera parte de los
consultados no define desde el diseño su estrategia de evaluación ni realiza
monitoreo de sus programas, cabe especular que una parte de las
evaluaciones finales no cuenta con información de base para comparar los
resultados relevados con la situación inicial de la que partió el programa.
Otra llamada de atención aparece en el bajo porcentaje de organizaciones
que miden impacto. Si bien las instancias de captura de impacto fueron y son
menos recurrentes que las evaluaciones finales (y como se dice en el
Apéndice de este artículo, no son siempre convenientes ni son para todos los
proyectos), hay una distancia significativa entre estos resultados.
Finalmente, no debería alarmar a nadie el porcentaje de quienes realizan
Evaluación de Medio Término ya que, como se sabe, esta instancia suele
aplicarse sólo en proyectos sostenidos con una duración mayor a un año.
Tampoco debería sorprender el bajísimo porcentaje de quienes han
monetizado el impacto de sus programas, ya que este tipo de metodologías
(SROI por ejemplo) suelen aplicarse principalmente a proyectos de desarrollo
económico, y aún no han sido debidamente exploradas en nuestra región.
“Si tomamos en cuenta que una tercera parte de los consultados no define desde el diseño su estrategia de evaluación ni realiza monitoreo de sus programas, cabe especular que una parte de las evaluaciones finales no cuenta con información de base para comparar los resultados relevados con la situación inicial de la que partió el programa.”
Gráfico 2. Resultados sobre el ciclo de M&E
Página 7
03. TENDENCIAS LOCALES EN M&E: ARGENTINA, BRASIL, PERÚ y EEUU.
3.1. ARGENTINA: EL ROL EMPRESARIO EN LA AGENDA DE INVERSIÓN SOCIAL
por Maximiliano Luft Especialista en Inversión Social y Gestión de Conocimiento
Fundador de ZIGLA Consultores
Las empresas fueron, desde siempre, un motor fundamental de desarrollo
económico y social y supieron adaptarse y reinventarse antes las diferentes
turbulencias del sistema. Esta capacidad de adaptación está potenciada,
entre otras cosas, por la permanente innovación en tecnologías de gestión,
evaluación y análisis de inversión en sus respectivos contextos.
Por su parte, las organizaciones sociales ya empezaron a incorporar
metodologías y tecnologías en M&E más a la medida de sus necesidades, a
partir de las cuales pueden gradualmente capturar, interpretar y comunicar el
impacto real de sus programas. Este avance en la generación estratégica de
información resulta determinante para la mejora del ciclo de vida de los
proyectos y principalmente para la toma de decisiones sobre oportunidades
de inversión social.
En América Latina, la asimetría entre el sector privado y el sector social es
aún significativa y la brecha técnica y tecnológica sigue siendo igual o más
profunda que hace veinte años. Sin embargo, la creciente incursión de las
empresas en programas de inversión social abre una puerta para acortar esta
brecha y mejorar la proyección de cambio social a nivel regional.
Algo parecido ocurre en Argentina. El sector social, de gran expansión y
diversificación en este tiempo, muestra hoy síntomas de madurez y aplomo
en sus enfoques, y una alentadora agenda de trabajo compartida con las
empresas y el Estado en sus diferentes niveles.
Pero el desafío es aún mayor. Desde la perspectiva empresaria, el interés
por las cuestiones sociales (promovido en gran parte por la agenda de
Responsabilidad Social Corporativa), es un catalizador para las empresas a
la hora de involucrarse con organizaciones de la comunidad en la
implementación de programas sociales.
En este contexto, las empresas tienen en las organizaciones sociales no sólo
un gran aliado, sino también una gran oportunidad. No se trata solamente de
avanzar en la concreción de alianzas, sino de apalancar conjuntamente
estrategias de cambio. Por ello, las empresas deberán aprender de los
enfoques innovadores que las organizaciones sociales lograron con mucho
esfuerzo y oficio, para luego potenciarlos con herramientas y tecnologías que
ayuden a superar las barreras tradicionales del sector social y a mejorar sus
condiciones de escalabilidad y replicabilidad.
“Desde la perspectiva empresaria, el interés
por las cuestiones sociales (promovido en
gran parte por la agenda de Responsabilidad
Social Corporativa), es un catalizador para las empresas a la hora de
involucrarse con organizaciones de la
comunidad en la implementación de
programas sociales.”
Página 8
Considerando los resultados del Estudio 2010, el escenario es favorable. Hay
una cantidad significativa de organizaciones que parecen gozar de buena
salud en materia de M&E. Si bien la captura de impacto de mediano y largo
plazo sigue siendo una cuenta pendiente, Argentina aparece por encima del
promedio regional en dos aspectos fundamentales como son a) la definición
de la estrategia de M&E desde el diseño, y b) la implementación de
instancias de monitoreo en programas.
Quedará por ver si la proliferación de alianzas estratégicas entre empresas y
organizaciones sociales logrará profundizar la construcción de modelos
eficientes y sostenibles en el diseño, gestión y evaluación de programas
sociales, para así apalancar finalmente más y mejores estrategias de cambio
social. De eso se trata.
Fuente: Elaboración propia en base a resultados del Estudio “Monitoreo, Evaluación y Medición de Impacto en Programas Sociales, América Latina” de ZIGLA Consultores, 2010.
3.2. INVERSIÓN SOCIAL EN BRASIL: SER ESTRATÉGICO ES UNA ELECCIÓN
por Elenice Tamashiro Especialista en Inversión Social - Representante de ZIGLA Consultores en Brasil.
Es cada vez más frecuente oír acerca de la importancia de la inversión social
estratégica y de cuál es la mejor manera de orientar a instituciones y
organizaciones en su enfoque, a fin de priorizar inversiones, lograr mejores
resultados y capturar su impacto. En los últimos 10 años, Brasil evolucionó
mucho en su forma de desarrollar programas de inversión social para fines
públicos y aún tiene un largo camino por recorrer antes que se consolide de
manera estratégica y eficaz.
Charities Aid Foundation publicó recientemente que una cuarta parte de la
población en Brasil hace donaciones en efectivo a organizaciones sociales, y
resalta que el acto de donar está más relacionado con el sentimiento de
felicidad que con el hecho de ser rico (Global Giving Report 2010).
“Si bien la captura de impacto de mediano y largo plazo sigue siendo una cuenta pendiente, Argentina aparece por encima del promedio regional en dos aspectos fundamentales como son a) la definición de la estrategia de M&E desde el diseño, y b) la implementación de instancias de monitoreo en
programas.”
Página 9
Lo cierto es que desde el gesto solidario de una donación individual hasta un
fondo de €36 millones que la UE invertiría en América Latina, existe un sinfín
de motivaciones diferentes. La pregunta es si en nuestro rol de donantes, ya
sea a nivel individual o a través de un marco institucional, tenemos o no
interés por saber si nuestro aporte se invirtió bien y marcó la diferencia.
¿O acaso el generoso acto de donar es un fin en sí mismo y estamos
satisfechos con él? ¿Qué ocurre cuando el interrogante se aplica al contexto
y la práctica económica y social de las empresas, los gobiernos y el sector
social? ¿Es posible equilibrar la satisfacción de donar con la responsabilidad
de que nuestro aporte promueva cambio social? Creo que sí, pero la
inversión social debe hacerse de manera rigurosa, sistemática y estratégica.
Al observar los resultados del Estudio 2010 sobre Monitoreo, Evaluación y
Medición de Impacto en América Latina elaborado por ZIGLA, es interesante
poner el foco en Brasil, donde líderes y referentes del sector coinciden en la
importancia de contar con estrategias de evaluación y medición del impacto,
pero un alto porcentaje reconoce no aplicarlas o bien no estar satisfecho con
su experiencia en la implementación de sus metodologías.
Fuente: Elaboración propia en base a resultados del Estudio “Monitoreo, Evaluación y Medición de Impacto en Programas Sociales, América Latina” de ZIGLA Consultores, 2010.
El alto porcentaje de organizaciones en Brasil que realiza evaluación final de
sus programas es una buena noticia. Pero es necesario establecer
parámetros desde el comienzo para que la instancia final pueda dar cuenta
de los cambios y avances que el programa ha provocado con su intervención.
Sólo así será posible contar con información que retroalimente la mejora de
los procesos para nuevas fases del programa, y de esa manera, ayude a que
la inversión social sea más eficaz y de mayor impacto. Este es el desafío que
las organizaciones y sus líderes reconocen como prioritario y para el cual
están trabajando: desarrollar programas de inversión social, pero de una
manera estratégica.
“Es necesario
establecer parámetros desde el comienzo para
que la instancia final pueda dar cuenta de
los cambios y avances que el programa ha
provocado con su intervención. Sólo así
será posible contar con información que
retroalimente la mejora de los procesos para
nuevas fases del programa, y de esa
manera, ayude a que la inversión social sea
más eficaz y de mayor impacto.”
Página 10
Este desafío requiere pensar desde el comienzo qué se pretende cambiar y
cómo se hará para conocer si las acciones lograron ese cambio. Para ello, es
clave incorporar metodologías de monitoreo y evaluación que permitan
analizar el progreso, aprender las lecciones, ajustar el enfoque, ampliar la red
de alianzas, mejorar el impacto positivo, crear legitimidad ante los diferentes
stakeholders, y en suma, contar más y mejores historias a partir de
resultados concretos.
3.3. SISTEMATIZACIÓN Y EVALUABILIDAD EN PERÚ: HERRAMIENTAS PARA LA GENERACIÓN DEL CAMBIO
por Jorge Cabrejos Especialista en Monitoreo y Evaluación - Representante de ZIGLA Consultores en Perú.
En los últimos años el nivel de profesionalización de la gestión y evaluación
de programas sociales aumentó considerablemente. Esto exige una mayor
profundidad en el análisis para diseñar e implementar mejores
intervenciones, cumpliendo sus objetivos de manera eficiente y logrando
cambios positivos en la vida de la población beneficiaria. A raíz de esto se
vienen desarrollando herramientas que promueven el aprendizaje para la
mejora continua y el diseño de propuestas de cambio que puedan demostrar
logros y resultados.
Por ello, es interesante analizar los resultados del Estudio 2010 presentado
por ZIGLA, donde el 87% de los representantes de las instituciones
consultadas en el Perú, manifestó reconocer la utilidad e importancia de
contar con información de resultados de programas anteriores como
instrumento para la toma de decisiones vinculada a la planificación de sus
propias intervenciones. Este porcentaje no representa un hecho menor, ya
que indicaría que la mirada de quienes tienen la responsabilidad de llevar a
cabo procesos de promoción del desarrollo social, están tomando en cuenta
los conocimientos y lecciones aprendidas, desarrolladas por otros actores, e
inclusive al interior de su organización, para diseñar sus acciones.
Fuente: Elaboración propia en base a resultados del Estudio “Monitoreo, Evaluación y Medición de Impacto en Programas Sociales, América Latina” de ZIGLA Consultores, 2010.
“En los últimos años el nivel de profesionalización de la gestión y evaluación de programas sociales aumentó considerablemente. Esto exige una mayor profundidad en el análisis para diseñar e implementar mejores intervenciones, cumpliendo sus objetivos de manera eficiente y logrando cambios positivos en la vida de la población beneficiaria.”
Página 11
La sistematización, entendida como la recopilación y análisis de
conocimientos organizados metodológicamente, se constituye así en la
principal ayuda para este tipo de organizaciones. Es uno de los principales
vehículos para garantizar procesos de intervención eficientes y sostenibles,
tan promovidos desde la cooperación internacional y ONG´s.
Otro dato importante a tener en cuenta, es que a nivel peruano el 29% de las
organizaciones consultadas, respondieron que incorporaban estrategias,
herramientas y metodologías de evaluación de resultados, durante la
ejecución del proyecto o una vez finalizado. Esto significa que casi un tercio
de las propuestas generadas, sin contar con el grupo de quienes podrían
incorporarlas de modo poco adecuado, no desarrollarían acciones
encaminadas a generar las condiciones mínimamente adecuadas para
evaluar de manera eficiente su contribución al desarrollo social en materia de
resultados o impacto.
Frente a ello, es necesario promover la elaboración de programas y
proyectos que incluyan condiciones mínimas de evaluabilidad, es decir, que
incluyan como parte de su diseño inicial, un análisis dirigido a determinar las
posibilidades que tiene la intervención de ser evaluada eficazmente, teniendo
siempre en el horizonte los cambios que se esperan lograr en la vida de los
beneficiarios (Osuna y Cirera 2005).
Tanto la sistematización como el análisis de evaluabilidad, facilitan
sobremanera el diseño y ejecución de intervenciones que cumplan con los
objetivos para los cuales fueron creados. Es responsabilidad de todos los
actores involucrados en la promoción de la mejora de nuestras sociedades,
avanzar en este camino e innovar, incorporando nuevos enfoques de trabajo
que sirvan para desarrollar contribuciones eficientes para todos.
3.4. EEUU: NUEVOS PARADIGMAS EN LA FILOSOFÍA DEL DONANTE
por Martin Manville Especialista en Gestión de Conocimiento - Representante de ZIGLA Consultores en EEUU.
Si dono X cantidad de dólares, quiero saber a dónde va y qué tipo de impacto
está generando. Este es el argumento que utiliza un filántropo en la
actualidad al referirse a las donaciones que realiza. Las entregas solidarias
de dinero caracterizadas por la buena voluntad han quedado atrás, y hoy en
día, los donantes exigen transparencia y evaluación a cambio de su caridad.
La mejora en tecnologías de comunicación y una economía menos estable
han dado lugar a un cambio de paradigmas en la filosofía del patrocinio,
donde evaluación y accountability son términos cada vez más importantes.
“Tanto la sistematización como el análisis de
evaluabilidad, facilitan el diseño y ejecución de
intervenciones que cumplan con los objetivos
para los cuales fueron creados. Es
responsabilidad de todos los actores involucrados
en la promoción de la mejora de nuestras
sociedades, avanzar en este camino e innovar,
incorporando nuevos enfoques de trabajo que
sirvan para desarrollar contribuciones eficientes
para todos.”
Página 12
A pesar de considerar a la evaluación de impacto como "compleja y costosa”,
Paul Brest y Hal Harvey, en Money Well Spent:A Strategic Plan for Smart
Philanthropy, dicen que es fundamental para que los donantes sepan si su
dinero está siendo bien gastado (Brest y Harvey 2008), y retratan la evaluación
de impacto como una herramienta "esencial para determinar si una
intervención filantrópica logra realmente hacer una diferencia”.
Sin embargo, no son todos consensos. A pesar de la fuerte caracterización
atribuida por Brest y Harvey al proceso de evaluación, no tardaron en
aparecer algunas críticas, entre ellas las expuestas en The Limits of Nonprofit
impact: A Contingency Framework for Measuring Social Performance (Ebrahim
y Rangan 2010), donde se argumenta que las técnicas de evaluación deben
adaptarse a las particularidades de cada organización.
En lugar de recomendar la evaluación de impacto en todos los ámbitos,
Ebrahim y Rangan argumentan que "mientras que algunas organizaciones
deben medir los impactos a largo plazo, otras deben centrarse en los
productos y resultados en el corto plazo". El llamado "marco de contingencia"
está diseñado para mantener los costos bajos y una alta eficiencia,
proporcionando a las organizaciones un buen equilibrio entre la
retroalimentación y la flexibilidad económica.
Las tendencias en la literatura del sector demuestran la creciente importancia
que ha ido ganando la temática del M&E en los últimos años. A pesar de que
la mayoría de los que se refieren a estos temas escriben sobre América del
Norte en particular, es cada vez más claro que los mismos conceptos tienen
alcance global.
En este contexto, el Estudio 2010 sobre Monitoreo, Evaluación y Medición de
Impacto en Programas Sociales de ZIGLA se presenta como una herramienta
interesante para el mercado latinoamericano. A juzgar por sus resultados,
parece que el sector social en la región tiene un buen tramo hecho a nivel de
buenas prácticas en temas de M&E y medición de impacto, pero todavía
queda un largo camino por delante para mejorar.
Tal vez este estudio pueda servir como plataforma de lanzamiento para
futuros debates como el de Harvey & Brest o Ebrahim & Rangan adaptados
específicamente para el contexto de América Latina, sus necesidades y sus
propios desafíos.
“En lugar de recomendar la evaluación de impacto en todos los ámbitos, Ebrahim y Rangan argumentan que "mientras que algunas organizaciones deben medir los impactos a largo plazo, otras deben centrarse en los productos y resultados en el corto plazo".
Página 13
04. A LA LUZ DE LOS ARGUMENTOS
Es hora de hablar del “por qué”. Como parte de la ronda de consultas
realizadas a líderes y referentes, se preguntó acerca de los argumentos que
dan cuenta de los resultados identificados. En primer lugar, tal como se dijo
más arriba, cerca del 40% de los consultados se muestra poco o nada
satisfecho con las metodologías de evaluación implementadas. A la hora de
profundizar en este tema se identificaron dos argumentos recurrentes.
El primero de ellos, sostiene que la insatisfacción es causada por los criterios
utilizados para evaluar, los cuales muchas veces, resultan anacrónicos o
improvisados, y no responden a las necesidades del propio proyecto. La falta
de rigurosidad en la selección de técnicas y métodos de evaluación y el
destiempo al momento de realizar la evaluación, suele traducirse en
evaluaciones poco efectivas, limitadas sólo a resultados de proceso que no
logran dar cuenta de los cambios generados por la intervención del
programa.
Desde el otro argumento, la insatisfacción está dada por la falta de
pertinencia de las metodologías propuestas en relación a los proyectos. Aquí
se menciona que muchas veces, son los donantes quienes determinan las
metodologías propuestas para evaluar, y es allí donde surge la sensación de
“metodologías enlatadas”, con escasa viabilidad y adaptabilidad al contexto
local y a la realidad de las organizaciones ejecutoras.
Otras razones que el Estudio permitió profundizar son las que aportan las
organizaciones que reconocen no incluir estrategias de M&E y Medición de
Impacto en sus programas.
El primer argumento tiene que ver con lo “costoso”. Se menciona
frecuentemente que implementar estas herramientas resulta muy costoso en
términos económicos, y también exige una gran movilización de recursos
humanos, logísticos y operativos, que es preferible dirigir hacia otras
actividades más alineadas a los objetivos del programa.
El segundo argumento tiene que ver con lo “complejo”, tanto a nivel
metodológico como tecnológicamente. Muchas veces por desconocimiento o
por malas experiencias previas algunas organizaciones tienden a rechazar la
incorporación de estrategias de M&E ante la sensación de que traerá más
problemas que soluciones durante la gestión. Sobre todo cuando la
implementación supone diferentes niveles de actores y/o dispersión
geográfica, lo que comúnmente hace más difícil (pero desde ya más
necesaria) la coordinación y el seguimiento de las actividades desde una
plataforma de M&E. En este contexto aparece con frecuencia la utilización de
la evaluación final como única instancia de captura y análisis de resultados.
“La falta de rigurosidad en la selección de
técnicas y métodos de evaluación y el
destiempo al momento de realizar la
evaluación, suele traducirse en
evaluaciones poco efectivas, limitadas sólo a resultados de proceso
que no logran dar cuenta de los cambios
generados por la intervención del
programa.”
Página 14
El último argumento tiene que ver con “los tiempos” que exige la medición de
impacto. En ámbitos donde los plazos son tan apretados y es tan frecuente la
urgencia de resultados, la captura de impacto de mediano y largo plazo
aparece como un privilegio al que no muchos pueden acceder.
05. CONCLUSIONES: DE CARA A LAS OPORTUNIDADES
Con la intención de que los hallazgos del Estudio permitan traducirse en
contribuciones para la agenda regional de inversión social, se considerarán a
modo de cierre, las principales conclusiones y oportunidades a tener en
cuenta.
En primer lugar, hay que decir que todavía existe una gran distancia entre la
relevancia que el M&E ocupa en la agenda respecto del grado de
implementación que tiene en la práctica. Si bien la mayoría de los
consultados reconoce la importancia de contar con información y resultados
previos para la toma de decisiones, una buena parte de las organizaciones
aún no incluyó en su plataforma de programas instancias de monitoreo que le
permitan, desde el diseño, realizar seguimiento y captura continua de
información. Una distancia todavía más significativa existe con relación a la
medición de impacto en el mediano y largo plazo.
Esta brecha relevancia-implementación tiene explicaciones parciales en cada
uno de los argumentos del capítulo anterior. Hay razones de costos, de
tiempos y de complejidad en quienes no quieren o no pueden incorporar
estrategias de M&E a sus programas. Es cierto. Pero hay detrás de estas
razones una barrera aún más profunda, de tipo cultural, y que tiene que ver
con las aún muy incipientes condiciones de accountability entre quienes
participan, directa o indirectamente (pasiva o activamente), de la agenda
regional de inversión social.
Regado de buenas intenciones, el escenario en el que las organizaciones
enfrentan diariamente los problemas sociales más urgentes está en
movimiento. Avanza. Y en el tránsito constante surge la necesidad cada vez
más prioritaria de profesionalizar su desempeño; de hallar parámetros y
estándares que aumenten la rigurosidad con la que se movilizan los recursos
económicos, humanos y tecnológicos.
Hay una responsabilidad y un deber de que las buenas intenciones redunden
en soluciones innovadoras y efectivas. Y para ello es fundamental insistir en
la consolidación de canales y prácticas de rendición de cuentas, que en su
análisis e interlocución participativa permitan aprender y mejorar a cada una
de las partes.
“Hay una responsabilidad y un deber de que las buenas intenciones redunden en soluciones innovadoras y efectivas. Y para ello es fundamental insistir en la consolidación de canales y prácticas de rendición de cuentas, que en su análisis e interlocución participativa permitan aprender y mejorar a cada una de las partes.”
Página 15
Todos los involucrados tienen delante la oportunidad de contribuir en este
sentido: donantes, organizaciones ejecutoras, empresas, entidades públicas,
agencias de cooperación, consultores, facilitadores, evaluadores,
beneficiarios, etc. Todos, sin excepción tienen a su alcance oportunidades
para que los procesos de toma de decisiones en materia de inversión social
en la región puedan apalancar finalmente soluciones innovadoras y efectivas
de alto impacto.
A la luz de los resultados y argumentos, los aspectos más críticos son, a su
vez, las oportunidades más interesantes. Entre ellas, y para tener en cuenta
a la hora de avanzar en la consolidación de una agenda regional de inversión
social, surgen las siguientes oportunidades:
Favorecer instancias de participación y rendición de cuentas entre los
diferentes actores involucrados.
Promover desde el diseño de los programas la definición de
estrategias de M&E capaces de formalizar qué, cómo, cuándo y con
qué se capturarán los cambios y avances.
Incorporar a la gestión de programas, sistemas de monitoreo simples
y a medida de la realidad de cada organización.
Mejorar las condiciones para que el ciclo de vida de los programas
sociales incluya instancias de medición de impacto.
Estimular procesos de toma de decisiones que contemplen
información estratégica proveniente de aprendizajes y resultados
previos.
Estas oportunidades no son todas, ni son suficientes, pero desde la
perspectiva que el M&E ofrece, seguramente conformen un valioso menú
para quienes quieran profundizar una agenda regional de inversión social
más estratégica. Al menos el desafío está planteado.
“Todos, sin excepción tienen a su alcance
oportunidades para que los procesos de toma de decisiones en materia de
inversión social en la región puedan apalancar
finalmente soluciones innovadoras y efectivas
de alto impacto.”
Página 16
APÉNDICE
RECOMENDACIONES PARA LOGRAR UNA ESTRATEGIA DE M&E
01/ ¿Por qué medir el impacto?
La medición del impacto busca conocer qué
cambió luego de la implementación del
programa. Esta pregunta puede responderse
desde dos perspectivas teniendo en cuenta a
los actores involucrados:
Desde la perspectiva de la organización que
lleva adelante el programa, ya que conocer qué
cambió le permite determinar si se está
haciendo realmente alguna diferencia, luego
ayudará a informar mejor a sus stakeholders y
por último contribuirá a mejorar el desarrollo de
fondos.
Desde la perspectiva del inversor/donante,
quien puede medir el impacto para determinar si
los cambios generados por el programa se
encuentran alineados con los objetivos
propuestos originalmente, puede monitorear si
sus inversiones son acordes con los objetivos
estratégicos del donante y, por último,
determinar qué cambio en la sociedad generó
su inversión.
02/ ¿Cuándo medir el impacto?
La evaluación de impacto tiene lugar una vez
que hayan pasado unos años de la
implementación del programa y se puede
determinar el verdadero “eco” que ha tenido el
mismo sobre la población beneficiada.
Sin embargo, resulta fundamental que las
metodologías y herramientas para llevar a cabo
esta evaluación sean establecidas al inicio del
ciclo de vida de un programa y los criterios para
la evaluación sean definidos durante la
implementación del mismo.
03/ ¿Qué organizaciones o programas deben
medir el impacto?
Dependiendo de sus estructuras, modelos y
objetivos, algunas organizaciones deberían
medir el impacto de largo plazo de sus
proyectos, mientras que otras organizaciones
deberían concentrarte en medir los resultados
de corto y mediano plazo.
Para conocer si la organización o programa
debe medir el impacto, se puede utilizar un
marco de análisis elaborado por la Escuela de
Negocios de Harvard, en donde se utilizan el
tipo de teoría del cambio y la estrategia
operacional de la organización para determinar
si es pertinente o no avanzar en un proceso de
evaluación en busca de impacto.
Teoría del Cambio: metodología utilizada para
describir las intervenciones que condujeron al
cambio alcanzado.
Focalizada: la relación entre causa y efecto es
lineal y fácilmente entendible,
Compleja: la relación causa-efecto no es lineal,
y existen múltiples factores que explican el
resultado.
Estrategia Operacional: lo que una
organización realmente hace en cumplimiento
de su misión.
Focalizada: estrategia puntual y objetiva
desarrollada por la organización,
Compleja: estrategias en donde la organización
expande sus fronteras para absorber otras
funciones fundamentales o nichos que considere
importantes para el logro de su misión.
por María Agustina Budani Especialista en M&E Directora de ZIGLA Consultores
Página 16
Página 17
Fuente: Elaboración propia en base a la Escuela de Negocios de Harvard.
04/ Iniciativas para la estandarización de la
medición del impacto social
A continuación se presentan las principales
iniciativas que buscan “estandarizar” la forma en
que se mide el impacto social.
Rockefeller Foundation, Acumen Fund y B Lab
comenzaron la presentación de Normas sobre la
inversión de impacto - Impact Reporting &
Investment Standards. La iniciativa IRIS (por su
sigla en inglés) se apoya en los esfuerzos
sectoriales para crear un lenguaje común que
permita la comparación y la comunicación a
través de la multitud de organizaciones que
buscan generar un impacto social o
medioambiental.
Otra iniciativa similar, esta vez de la mano de B
LAB es GIIRS (Global Impact Investing Rating
System), un sistema de evaluación de impacto
social para los inversores institucionales de
capital, los intermediarios de servicios
financieros, y las compañías que buscan alinear
su misión con el crecimiento y la liquidez.
A su vez, hay dos iniciativas que buscan
responder al inversor la siguiente pregunta: ¿por
cada dólar invertido, cuánto valor social se
generará durante el tiempo de la inversión? La
primera de estas iniciativas es Best Available
Charitable Option (BACO), una metodología
desarrollada por Acumen Fund que tiene por
objeto informar a los inversores dónde será más
eficaz su inversión filantrópica. Por su parte,
SROI Network, una red que cuenta con el
aporte del Gobierno de Gran Bretaña y NEF
(New Economics Foundation) entre otros,
desarrolló una metodología que permite
monetizar los impactos sociales. Al monetizar,
estas dos iniciativas metodológicas encuentran
una forma de estandarizar y comparar los
impactos de distintos programas.
Por su parte, Poverty Lab es una iniciativa de
MIT (Massachusetts Institute of Technology)
que impulsa la utilización de metodologías de
evaluación de impacto experimentales. Como
todas las metodologías de evaluación de
impacto, la randomización que promueve
Poverty Lab busca determinar si un programa
social ha tenido impacto y cuán grande ha sido
el mismo.
Por último, vale la pena resaltar otras dos
iniciativas que buscan orientar a las
organizaciones en materia de qué metodologías
y herramientas utilizar: a) el Mapa de M&E de
ZIGLA Consultores y b) TRASI (Tools and
Resources for Assessing Social Impact),
plataforma desarrollada por Foundation Center,
que contiene recursos y herramientas para
determinar el impacto social.
Página 17
Página 18
CITAS
Estudio sobre Monitoreo, Evaluación y Medición de Impacto en América Latina, ZIGLA
Consultores, 2010. (http://ziglablog.com.ar/2010/12/22/principales-tendencias-de-me-en-america-
latina-reporte-descriptivo-2010/)
Principales tendencias de la filantropía en AMÉRICA LATINA. Maximiliano Luft, Agustina Budani
y Carmen López para Fundación Avina, Buenos Aires, 2010
(http://inversionsocial.files.wordpress.com/2010/09/avina_articulo_2010_09_esp.pdf)
Global Giving Report 2010
(http://www.idis.org.br/biblioteca/pesquisas/globalgivingreport_2010.pdf/view)
Paul Brest y Hal Harvey: Money Well Spent: A Strategic Plan for Smart Philanthropy, Bloomberg
Press, New York, November 2008 (http://www.smartphilanthropy.org/).
The Limits of Nonprofit impact: A Contingency Framework for Measuring Social Performance.
Alnoor Ebrahim, V. Kasturi Rangan, HBS Working Knowledge, July 2010
(http://hbswk.hbs.edu/item/6439.html).
Jose Luis Osuna y Ana Cirera: Guía para la evaluación de Políticas Públicas, Instituto de
Desarrollo Regional – Fundación Universitaria, Sevilla, 2005
(http://www.sociedadevaluacion.org/website/files/guiaIDR.pdf).
REFERENCIAS
Rockefeller Foundation
www.rockefellerfoundation.org
Acumen Fund
www.acumenfund.org
B Lab
www.bcorporation.net
GIIRS (Global Impact Investing Rating System)
www.giirs.org
Best Available Charitable Option (BACO)
www.acumenfund.org/knowledge-center.html?document=56
SROI Network
www.thesroinetwork.org
NEF (New Economics Foundation)
www.neweconomics.org
Poverty Lab - MIT
www.povertyactionlab.org/es/about-j-pal
Mapa de M&E de ZIGLA
www.mapa.ziglaconsultores.com
Foundation Center
foundationcenter.org/
TRASI
http://trasi.foundationcenter.org/
Página 19
info@ziglaconsultores.com El Salvador 4851 (C1414DBM) Buenos Aires Argentina
www.ziglaconsultores.com
Recommended