U.T. 8. Realización de actividades de control, seguimiento y evaluación de la intervención cultural.
Materiales formativos de FP Online propiedad del Ministerio de Educación y Formación Profesional.
Materiales formativos de FP Online propiedad del Ministerio de Educación y Formación Profesional.
Evaluación es la apreciación sistemática e imparcial de un proyecto, programa o política en curso o concluido, de su diseño, su puesta en práctica y sus resultados. El propósito es determinar la pertinencia y el logro de los objetivos, así como la eficiencia, la eficacia, el impacto y la sostenibilidad para el desarrollo.
En los proyectos de animación cultural destacamos cinco elementos esenciales en la evaluación:
Reflexión: referida a los tres momentos en los que se da o ha dado la intervención social: presente, pasado y futuro, siendo preciso acotar sobre qué centrar el análisis en cada uno de esos momentos, pues con su elección se determina la utilidad de la evaluación y con ello su éxito.
Valor: referido a atribuir méritos o deméritos a aquello en lo que hemos decidido centrar la atención en base a unos criterios, o aspectos a tener en cuenta.
Informaciones: la evaluación está muy unida a los procesos de búsqueda de información, en este punto solemos confundir evaluación e investigación, pues ambas utilizan los mismos métodos y técnicas para el acercamiento a la realidad social, no obstante no son lo mismo. Según Pablo de la Rosa la investigación sólo usa valores relativos a la calidad (rigor) de la información obtenida, mientras que la evaluación emite juicios sobre lo observado; la investigación establece generalizaciones, mientras que la evaluación pretende facilitar la toma de decisiones; la investigación busca explicar la realidad y propone y contrasta teorías, si embargo la evaluación informa sobre la acción y sus efectos además de orientar la intervención.
Mejora: la evaluación pretende contribuir al incremento de la calidad y eficacia, favoreciendo así la superación de obstáculos, rectificación de estrategias.
Satisfacción de necesidades: relacionadas con obtener información útil para tomar decisiones por parte de los profesionales y de las organizaciones, así como permitir conocer en qué medida los diferentes implicados ven satisfechas sus necesidades, las cuáles justificaron la inversión e intervención y si éstas están siendo atendidas de forma adecuada.
Características y criterios de la evaluación en los proyectos de animación cultural:
Para llegar a obtener conclusiones que permitan tomar decisiones y mejorar la intervención de animación cultural, toda evaluación debe cumplir las siguientes características y criterios:
Eficacia. En qué medida se han logrado los objetivos y resultados previstos.
Eficiencia. Relación entre los resultados obtenidos y los recursos utilizados. Un proyecto será eficiente cuando se utilizan menos recursos para lograr un mismo objetivo.
Idoneidad. En qué medida el proyecto responde a las necesidades de sus destinatarios. Relación entre proyecto necesario y proyecto real.
Utilidad. Las actividades o acciones realizadas son provechosas para las personas implicadas en el proyecto, y permiten alcanzar los objetivos marcados.
Impacto. Valoración de las consecuencias del proyecto, pueden ser previstas o no, pueden ser positivas o negativas.
Viabilidad. Capacidad de los resultados obtenidos de permanecer en el tiempo
Suficiencia. En qué medida las acciones realizadas fueron suficientes y adecuadas para alcanzar los objetivos marcados.
Participativa. Ha de procurar integrar a la mayoría de agentes implicados en la intervención.
Sistemática. Porque responde a una metodología planificada e intencionada.
Según Vergara Espinoza, además la evaluación deberá ser:
Verdadero
Podemos realizar distintos tipos de clasificación de los tipos de evaluación de los proyectos de animación cultural, aludiendo a una serie de aspectos o criterios:
Según el objeto de la evaluación:
Evaluación del procedimiento, se evalúa el diseño y se intenta:
Garantizar su coherencia y contribuir a su aplicabilidad.
Evaluar cada uno de los elementos del proyecto valorando su viabilidad y la coherencia entre ellos.
Evaluación del proceso: se evalúa la implementación del proyecto.
Evaluación de resultados: eficacia y efectividad del proyecto.
Según su función o propósito:
Formativa: aporta información mientras se está realizando el proyecto, aporta datos que ayudan a cambiar el proceso y adecuarlo a las circunstancias.(coincide con la “evaluación durante” siguiendo el criterio tiempo).
Sumativa: se realiza al final del proyecto, establece relación objetivos previstos y la consecución de los mismos, coincide con la “evaluación final” siguiendo el criterio tiempo.
Según momento de la evaluación:
Ex ante: se realiza con anterioridad a la ejecución. Trata de conocer la situación inicial antes de poner en marcha una acción, también llamada “evaluación inicial o de diagnóstico”, se realizan las siguientes acciones:
Identificar las características del contexto: circunstancias sociales, oportunidades, problemas (causas, consecuencias y posibles soluciones), posibles beneficios del proyecto, percepción de los destinatarios del problema, etc.
Evaluar si existe claridad y coherencia entre recursos existentes, necesidades detectadas y los objetivos que se platean inicialmente.
Durante: durante el momento de la implementación, también llamada evaluación del proceso, y según la función o propósito: “evaluación formativa o de seguimiento, se realizan las siguientes acciones:
Comprobar de qué manera se va desarrollando la intervención.
Facilitar la toma de decisiones sobre la necesidad de modificar o reorientar la intervención, permitiéndonos introducir cambios y ajustes necesarios para mejorar los resultados.
Medir la forma en que se funciona y la calidad de las actuaciones y acciones del proyecto.
Evaluar cada uno de los elementos del proyecto durante la ejecución del mismo.
Final: al final todas las acciones programadas y al final del proyecto, también llamada según la función o propósito: “evaluación sumativa o de resultados”, se realizan las siguientes acciones:
Valorar los efectos o la repercusión del proyecto.
Evaluar la consecución de los objetivos y obtención de resultados y nos permite pronunciarnos sobre el éxito o el fracaso de la intervención diseñada y ejecutada.
Ayudar a la toma de decisiones futuras y a verificar la eficacia y la rentabilidad de los resultados.
Evaluar: las actividades realizadas, los resultados obtenidos (relación coste beneficios), los procedimientos o métodos utilizados, la adecuación y aprovechamiento de los recursos, el impacto (en la propia institución y en la comunidad), los efectos en las personas beneficiarias, la organización y participación de sus protagonistas, etc.
Ex post o retrospectiva: se realiza transcurrido un tiempo, para conocer el impacto de la intervención.
Según metodología de la evaluación:
Evaluación cuantitativa. Los datos recogidos son numéricos, de acuerdo con indicadores cuantificables, y siguen las normas de la metodología estadística. Se busca primordialmente la objetividad y resultados.
Evaluación cualitativa. Observa variables no medibles directamente de forma numérica. La objetividad y los resultados no constituyen el objetivo prioritario, sino que valora especialmente los motivos, efectos no deseados, las opiniones, etc.
Cuantitativa y cualitativa.
Según agentes y sujetos implicados en la evaluación:
Autoevaluación. Es aquella evaluación que alguien hace de sí mismo. Para que pueda realizarse es necesario conocer el proyecto, sus objetivos, recursos, etc.
Evaluación interna. Es la que efectúa el equipo humano que forma parte del propio proyecto o la entidad que lo promueve.
Evaluación externa. Es la realizada por personal externo al proyecto o a la organización.
Evaluación mixta. En esta evaluación, el equipo que la efectúa está formado por evaluadores internos y externos al proyecto.
Según la extensión de la evaluación:
Evaluación parcial, si recoge algunas partes del proyecto.
Evaluación global, en caso de contemplar la totalidad de la intervención.
Meta-evaluación: cuando la evaluación es sometida a la valoración de expertos (proceso de evaluación de las evaluaciones), donde se pide se respeten todos los criterios señalados en el apartado anterior (objetividad, fiabilidad, validez, coherencia, etc.) y en relación a los evaluadores, se exige recogida sistemática de información, competencia, integridad, honestidad, etc.
Acreditación o certificación: es un tipo de evaluación asociado al control de la calidad. Consiste en comprobar si un proceso u organización cumple con unos criterios establecidos y reconocidos universalmente, de forma que garantiza unos niveles mínimos respecto de la calidad y fiabilidad esperada de sus productos o servicios. De ello hablaremos en epígrafes posteriores aludiendo a la gestión de la calidad.
Rellena el hueco con la palabra más adecuada:
La evaluación del plan de marketing y su desarrollo debe ser vista como una actividad continua y que se da en cada una de las fases del proyecto de intervención, siendo una de las funciones contribuir a la toma de decisiones. Estaremos hablando de un proceso para el cual será preciso contar con los siguientes elementos:
Planificación del proceso de evaluación:
Hemos estudiado que una de las funciones de la evaluación es la de contribuir en la toma de decisiones, por ello la evaluación no debe ser vista solo como una parte del ciclo del proyecto, sino como una actividad continua que ayuda en cada una de las fases.
Para ello, deberá aportar información transparente y clara, con resultados explicativos que den retroalimentación y guíen la intervención hacia la mejora continua.
Para planificar este proceso adecuadamente, debemos plantearnos y dar respuesta a las siguientes preguntas:
Fundamentación de la evaluación:
En intervención social evaluamos porque queremos:
Como todo diseño de planificación, en el momento de planificar la evaluación se deben formular unos objetivos, de manera concreta, sobre lo que se quiere obtener con el proceso de evaluación.
Cada proyecto dispondrá de sus propios objetivos de evaluación, aunque en general todos ellos harán hincapié en:
Contenidos de la evaluación:
Vendrá definido por los diferentes tipos de evaluación o momento en el que ésta se realiza. Así tendremos:
Además para operativizar el alcance de estos contenidos, será preciso convertirlos en unidades medibles, ello lo haremos extrayendo variables generales sacadas de los contenidos y concretando en indicadores.
Metodología de la evaluación:
En la metodología se define cómo vamos a recoger y analizar la información, es por ello que se vinculará a los instrumentos de recogida de información.
Además la metodología elegida, deberá estar en concordancia con la función y el objeto de la misma.
A continuación de enumeran las ETAPAS METODOLÓGICAS BÁSICAS en el proceso de evaluación:
Temporalización y localización de la evaluación:
Se referirá a los momentos en los que se llevará a cabo la evaluación y a los espacios a usar para tal fin.
Recursos humanos, materiales y financieros.
¿Qué planificación diseñarías para realizar la evaluación de un proyecto social sobre el impacto de la pandemia del Coronavirus en la sociedad con violencia de genéro?
Los elementos de análisis se denominan variables que son características o propiedades susceptibles de variación durante el proceso de intervención de los eventos culturales.
En la planificación del diseño de evaluación comenzaremos elaborando variables abstractas, que posteriormente se irán concretando para llegar a definir indicadores.
Contaremos también con los criterios de evaluación, que son categorías o aspectos a analizar de forma más concreta, un ejemplo sería: grado de participación.
Los indicadores de evaluación, son unidades de información que señalan si un criterio de evaluación se ha logrado o no.
Los indicadores de evaluación nos permiten concretar y traducir, en términos medibles, los criterios que hemos elegido para nuestra evaluación, orientándonos a la selección y sistematización de la información.
Los indicadores permiten comprobar de manera científica y objetiva la consecución de los resultados previstos.
Su información se logra habitualmente a través de preguntas: ¿qué grado de participación se consiguió?, ¿se promovió la participación de de los destinatarios?, etc.
Según Espinoza Vergara los indicadores deben tener los siguientes requisitos:
En las siguientes tablas puedes ver ejemplos de evaluación:
EVALUAR EL DISEÑO DEL EVENTO CULTURAL. |
||
---|---|---|
ASPECTO DEL PROYECTO A EVALUAR |
CRITERIOS DE EVALUACIÓN |
INDICADORES DE EVALUACIÓN |
FUNDAMENTACIÓN |
|
|
OBJETIVOS |
|
|
METODOLOGÍA |
|
|
TEMPORALIZACIÓN |
|
|
RECURSOS ECONÓMICOS, HUMANOS Y MATERIALES |
|
|
EVALUAR LA IMPLEMENTACIÓN DEL EVENTO CULTURAL. |
||
---|---|---|
ASPECTO DEL PROYECTO A EVALUAR |
CRITERIOS DE EVALUACIÓN |
INDICADORES DE EVALUACIÓN |
OBJETIVOS |
|
|
METODOLOGÍA |
|
|
TEMPORALIZACIÓN |
|
|
DESTINATARIOS |
|
|
RECURSOS ECONÓMICOS, HUMANOS Y MATERIALES |
|
|
EVALUAR LOS RESULTADOS DEL EVENTO CULTURAL. |
||
---|---|---|
ASPECTO DEL PROYECTO A EVALUAR |
CRITERIOS DE EVALUACIÓN |
INDICADORES DE EVALUACIÓN |
GENERAL |
|
|
OBJETIVOS |
|
|
METODOLOGÍA |
|
|
LOCALIZACIÓN |
|
|
TEMPORALIZACIÓN |
|
|
DESTINATARIOS |
|
|
RECURSOS |
|
RECURSOS MATERIALES Y FINANCIEROS
RECURSOS HUMANOS
AMBOS
|
La mayoría de las técnicas de la evaluación de los eventos culturales provienen de otras áreas del conocimiento y han sido adaptadas, con mayor o menor fortuna, al campo de la social.
Ya hemos comentado que no debe confundirse la evaluación con un proceso de investigación científica, pues su finalidad última no es la de asentar conocimientos, sino la de permitirnos tomar decisiones que mejoren nuestras intervenciones actuales y futuras. No obstante, ambas comparten el uso de las mismas técnicas e instrumentos.
Las técnicas que se pueden usar son variadas, pero destacan las técnicas: cuantitativas, cualitativas y las de carácter participativo.
Como ya se explicó en la unidad dos, las técnicas cuantitativas ponen el énfasis en la medición objetiva, la demostración de la causalidad y la generalización de los resultados; por su parte, las técnicas cualitativas se centran en la descripción y comprensión interpretativas de la conducta humana en el marco de referencia del individuo o del grupo social en el que actúa.
Por último las técnicas participativas, estarían entre las dos anteriores, pero partiendo la implicación de la población en el desarrollo de las técnicas. Además dependiendo del tipo de técnica participativa que usemos, ésta puede proporcionar datos objetivos o bien otros de carácter interpretativo.
Para que los datos recopilados sean de mayor riqueza y fiabilidad, es muy importante optar por la triangulación metodológica.
El Informe de Evaluación es el producto documental final, resumen de los trabajos de evaluación en donde se recogen los resultados de todo el proceso.
Su función primordial es comunicar determinados resultados a un público interesado: ¿se han cumplido los objetivos? ¿se han cumplido los plazos? ¿se han cumplido las actividades propuestas? ¿cuánto ha costado?¿qué procedimientos o metodología se ha utilizado? ¿cuáles son sus puntos fuertes o débiles? .
El informe de evaluación debe procurar alcanzar la máxima objetividad en su elaboración y planteamientos.
El Informe de Evaluación debe contener, cuando menos, un texto descriptivo que detalle la información recogida, un apartado explicativo que establezca las correspondientes relaciones de causa y efecto, y un apartado que incluya conclusiones, recomendaciones y sugerencias.
Su finalidad principal es comunicar los resultados, por tanto todo ello deberá estar orientado hacia la acción y hacia el fortalecimiento de la toma de decisiones.
Por su parte, la memoria es documento pedagógico y administrativo donde se hace el recuento de lo sucedido de forma amplia.
Es un estudio que sistematiza tanto el proceso seguido desde el principio hasta su finalización, como los resultados obtenidos. En él quedan recogidos tanto los puntos fuertes como las limitaciones encontradas a lo largo del desarrollo de la intervención social.
La memoria es un documento donde debemos reflejar lo que se ha hecho en cada momento del proceso de intervención, cómo se ha hecho y el grado o nivel de logro o éxito. Es decir, la memoria recoge lo que los resultados de la evaluación nos han indicado.
En la memoria se debe incluir una relación de todo lo que se ha hecho, fechas y circunstancias; cómo se han llevado a cabo las distintas etapas de la programación y las dificultades que han surgido. Es importante destacar no sólo los logros sino también las dificultades encontradas.
Esquema del informe
Un informe deberá incluir los apartados siguientes:
Portada:
Título del proyecto.
Tipo de evaluación: externa, interna, mixta, participativa; simultánea, final, de impacto; etc.
Situación del Informe: borrador, preliminar, final.
Fecha.
Equipo evaluador.
Resumen:
Se detallarán, en un espacio reducido, las características y elementos centrales del Informe.
Introducción:
Principales técnicas utilizadas para la recogida y procesamiento de la información. Estructura del Informe.
Descripción de la información:
Se trata de presentar, de forma agrupada y sistematizada, la información recogida haciendo alusión a los criterios e indicadores de la evaluación final. En esta fase el equipo evaluador se limita a describir y ordenar los datos más sobresalientes por componentes, resultados o estrategias.
Valoración de la información:
Se trata de incorporar las explicaciones necesarias en cuanto a la información descrita, estableciendo las relaciones de causas y efectos que procedan. Estas explicaciones también deben ser presentadas atendiendo a los criterios e indicadores, haciendo referencia a : eficiencia, eficacia, impacto, pertinencia, viabilidad, con sus correspondientes factores de desarrollo. Se realizará una valoración tanto cuantitativa como cualitativa de los resultados.
Conclusiones y recomendaciones:
Se trata, por un lado, de plantear las principales conclusiones del proceso de evaluación. Por otro, de establecer recomendaciones y sugerencias para mejorar la calidad de la ejecución del proyecto en sus siguientes fases, absorber determinados obstáculos detectados o extraer aprendizajes para intervenciones futuras.
Anexos:
Se adjuntará toda aquella documentación de interés que ilustre el desarrollo del proceso de evaluación (encuestas, cuestionarios, referencias documentales, etc.) y que complemente los contenidos del Informe.
Las características fundamentales que han de cumplir los informes para mejorar la difusión de la información son las siguientes:
Esquema de la memoria
Una memoria deberá incluir los apartados siguientes:
Equipo evaluador.
Resumen:
Se detallarán, en un espacio reducido, las características y elementos centrales de la memoria.
Introducción:
Descripción de la evaluación aplicada a cada elemento de la programación de intervención.
Desarrollo de la memoria:
Exposición de una valoración cuantitativa y cualitativa de los resultados.
Valoración de la información:
Se trata de incorporar las explicaciones necesarias en cuanto a la información descrita, estableciendo las relaciones de causas y efectos que procedan. Estas explicaciones también deben ser presentadas atendiendo a los criterios e indicadores , haciendo referencia a : eficiencia, eficacia, impacto, pertinencia, viabilidad, con sus correspondientes factores de desarrollo. Se realizará una valoración tanto cuantitativa como cualitativa de los resultados.
Conclusiones y recomendaciones:
Se trata, por un lado, de plantear las principales conclusiones del proceso de evaluación. Por otro, de establecer recomendaciones y sugerencias para mejorar la calidad de la ejecución del proyecto en sus siguientes fases, absorber determinados obstáculos detectados o extraer aprendizajes para intervenciones futuras.
Anexos:
Se adjuntará toda aquella documentación de interés que ilustre el desarrollo del proceso de evaluación (encuestas, cuestionarios, referencias documentales, etc) y que complemente los contenidos de la memoria.
De cómo se realice la presentación de los resultados de la evaluación, puede depender la incidencia del proyecto, por esta razón, debe considerarse como una fase de gran importancia.
A continuación de enumeran algunas recomendaciones que se deben tener en cuenta sobre cómo informar de los resultados de la evaluación.
Al informar a las personas implicadas:
Tratar de comprender el punto de vista de las distintas audiencias.
Al dar un mensaje de evaluación:
No dar excesiva información, de forma que lo accesorio impida atender a lo sustancial.
Al dar información en forma escrita:
Redactar con claridad la información.
Al realizar una presentación oral:
Dejar un tiempo para preguntas.
Al relacionarse con la prensa:
Cuando vimos los tipos de evaluación comentamos que “la acreditación-certificación” es un tipo de evaluación peculiar muy asociado al control de calidad.
Consiste en comprobar si un proceso u organización, cumple con unos criterios establecidos y reconocidos universalmente, de forma que se garantiza unos niveles mínimos respecto de la calidad y fiabilidad esperada de sus productos o servicios.
Este tipo de evaluación se asocia con la necesidad de incrementar los niveles de seguridad, transparencia y confianza en las relaciones comerciales y de consumo.
La normalización, homologación, certificación, acreditación son procesos de evaluación basados en estándares o nomas conocidas y aceptadas por el sector que llevan a cabo entidades oficiales especializadas y autorizadas para realizar este tipo de evaluaciones.
Un sistema de gestión de calidad es un conjunto de normas interrelacionadas de una empresa u organización, por las cuales se administra de manera ordenada su calidad, en la búsqueda de la satisfacción de las necesidades y expectativas de sus clientes.
Estas actuaciones de mejora, toman en consideración todos los elementos y agentes de la organización en la búsqueda de la mejora continua, poniendo énfasis en el cliente o usuario.
Para que este cambio se produzca, es indispensable la implicación de los líderes o la dirección de la organización.
La introducción en la cultura de la calidad supone:
En los proyectos de intervención social la gestión de la calidad presenta las siguientes ventajas:
Una auditoría es un examen metódico, que se lleva a cabo para comprobar si las actividades y los resultados de la gestión de la calidad de la entidad cumplen los requisitos establecidos (normativos y/o de la propia entidad) y que son adecuados para conseguir los objetivos establecidos.
Las cartas de servicios son documentos en los que la institución informa y se compromete, de manera pública a ofrecer y mantener una serie de compromisos para la calidad del servicio ofrecido
Los indicadores de calidad permiten controlar y valorar la calidad de una actividad en un momento y lugar determinados.Los que más frecuentemente se utilizan en la gestión de la calidad en el ámbito social son:
Cuando realicemos la evaluación de nuestra intervención cultural deberemos cuidar de no caer en los siguientes errores:
Los aspectos éticos asociados a la evaluación que debes tener en cuenta son:
Unas de las normas más conocidas de carácter internacional son las normas ISO establecidas por la Organización Internacional de Normalización. Todos los países de la UE han decidido numerar las ediciones nacionales de las normas ISO, añadiendo sus abreviaturas, por ello encontramos la abreviatura UNE (norma española) ( añadiendo EN el caso que también sea europea). En cuestión de calidad, la norma UNE-EN ISO 9001:2015, sistemas de gestión de la calidad, requisitos, determina los requisitos para una gestión de calidad.
Las normas ISO facilitan la implantación de un sistema de gestión de la calidad para cualquier tipo de organización.
Tienen como finalidad principal: orientar, coordinar, simplificar y unificar los usos para conseguir menores costes y mayor efectividad.
Cualquier organización puede optar por obtener la certificación de acuerdo con las normas ISO. Una vez obtenida la certificación, la empresa, si desea mantenerla, deberá continuar pasando una auditoría externa anualmente.
A nivel nacional tenemos la Asociación Española de Normalización y Certificación (AENOR), encargada de editar normas exclusivamente españolas para los diferentes sectores.
En la siguiente página puedes visitar el enlace a AENOR, Asociación Española de Normalización y Certificación:
Ningún recurso de fuentes externas que requiera citar explícitamente sus datos de licencia ha sido usado en esta unidad, por lo que este anexo queda vacío. Todos los recursos utilizados, de fuentes internas, se acogen al Aviso Legal de la plataforma.