Faire l’évaluation de l’évaluabilité pour s’assurer qu’un projet ou un programme pourra être évalué efficacement

Faire l’évaluation de l’évaluabilité pour s’assurer qu’un projet ou un programme pourra être évalué efficacement

L’évaluation intervient à plusieurs étapes de la programmation d’un projet (planification, mise en œuvre, clôture etc.). Elle fournit des informations qui facilitent la prise de décision aux différentes parties prenantes impliquées dans la conception et/ou la mise en œuvre d’un projet. Une des questions que se posent régulièrement les parties prenantes impliquées dans une démarche évaluative est : « les conclusions et recommandations de l’évaluation sont-elles pertinentes pour faciliter la prise de décision? » Il est difficile d’apporter une réponse claire, précise et certaine à cette interrogation. C’est pour apporter des éléments de réponse à cette question qu’une évaluation de l’évaluabilité est indispensable. Cet article décrit l’Évaluation de l’évaluabilité (encore appelée Étude de l’Évaluation (EE) ou Analyse de l’Évaluation d’un projet). Il présente succinctement la définition et l’utilité de l’EE, les critères, la démarche et les résultats d’une évaluation de l’évaluabilité.

Définition et utilité de l’évaluation de l’évaluabilité

Développée dans les années 1970 aux Etats Unis pour répondre aux difficultés et défis dans l’évaluation de programmes gouvernementaux, l’évaluation de l’évaluabilité est un processus rigoureux de collecte et d’analyse de données permettant de s’assurer que les évaluations futures d’une intervention seront réalisables et que celles-ci pourront produire des résultats satisfaisants et utiles aux parties prenantes. L’évaluation de l’évaluabilité est une approche systématique destinée à faciliter l’évaluation future d’une intervention (projet/programme) (Craig et Campbell (2015).

Oxford University Press définit l’évaluation de l’évaluation comme un processus systématique permettant de décrire la structure d’un programme et d’analyser la plausibilité et la faisabilité de la réalisation des objectifs ; leur aptitude à une évaluation approfondie ; et leur acceptabilité pour les gestionnaires de programme, les décideurs et les opérateurs de programme.

Entreprendre une évaluation de l’évaluabilité est bénéfique à la phase de planification d’un projet à la fois pour les équipes de conception, de mise en œuvre et les parties prenantes, car elle contribue à une organisation plus optimale des activités du projet et fournit des recommandations en vue de l’amélioration des résultats, des indicateurs et des activités formulés dans le cadre logique du projet et de faciliter les évaluations ultérieures qui devront s’ensuivre. Cette activité est indiquée lorsque le projet est complexe, lorsque la théorie du changement et le cadre logique sont peu clairs ou peu documentés. L’EE permet de démêler cette complexité en favorisant la description détaillée des résultats escomptés, des indicateurs de mesure et des activités à mettre en œuvre pour l’atteinte des résultats, ce qui aboutit à la mise en place d’un système de suivi evaluation nécessaire aux évaluations ultérieures.

critères de l’évaluation de l’évaluabilité

Selon Wholey (1987), l’évaluation de l’évaluabilité vise à répondre aux questions suivantes :

  1. Les intentions des initiateurs et initiatrices et les objectifs de l’intervention sont-ils clairement présentés?
  2. Les objectifs de l’intervention sont-ils plausibles à la lumière des connaissances disponibles et des moyens mobilisés ?
  3. Les conditions sont-elles réunies pour la collecte des données d’évaluation ?
  4. Quelle sera l’utilité des résultats d’évaluation pour les parties prenantes ?

L’EE examine la stratégie de suivi et d’évaluation du projet suivant de nombreux critères dont:

  • La coherence, le realisme de la theorie du changement: il s’agit de verifier si la theorie du changement du projet telle que definie est coherente, réaliste , complète et formellement redigée
  • La clarté des objectifs/résultats : l’EE permet de verifier que les objectifs / resultats sont énoncés de manière claire et precise, qu’il respectent les normes de l’évaluation;
  • La qualité des indicateurs de performance : l’exercice consiste à verifier que les indicateurs de performance sont formulés suivant les normes, qu’ils intègrent les indicateurs qualitatifs, quantitatifs et qu’ils peuvent être collectés et surtout qu’ils faciliteront la prise de décision;
  • L’établissement de bases de référence : l’EE vérifie que le projet dispose des données de base suffisantes pour chaque indicateur afin d’établir un point de départ pour les comparaisons et les mesures futures des réalisations et des résultats.
  • L’inclusion d’étapes limitées dans le temps : il est question de valider l’existence de cibles cohérentes et réalistes pour chaque objectif/résultat/indicateur;
  • L’évaluation des risques et des hypothèses : l’EE vérifie qu’une analyse des risques du projet est faite de manière participative; que des mesures de mitigation sont clairement définies et que les hypohèses clés sont partagées avec les principales parties prenantes et documentées dans la theorie du changement du projet ;
  • L’exhaustivité du système de suivi et d’évaluation: L’EE s’aasure qu’un systèmes de suvi et d’evaluation du projet existe, qu’il permet d’identifier les problèmes au cours du projet, de mesurer des progrès . Le systeme de collecte et d’analyse de données du projet doit faciliter la gestion, l’apprentissage et le reporting ;
  • Etc.

D’autres critères peuvent être définis en fonction de la nature du projet, de l’organisme en charge de son execution ou des exigences du donateur.

DEMARCHE DE L’EVALUATION DE L’EVALUABILITE

Dans la littérature, M. F. Smith (1989) décrit le déroulement d’une évaluation de l’évaluabilité en dix (10) étapes. Ces mêmes étapes ont été décrites de façon simplifiée par Trevisan et Yi (2003). Toutefois, il faut noter qu’il ne s’agit pas d’un processus linéaire et il n’est pas exclu de revenir en arrière pour affiner les objectifs de l’évaluation de l’évaluabilité. Les dix étapes décrites par M. F. Smith (1989) sontsynthetisées ci-dessous :

RÉSULTATS DE L’ÉVALUATION DE L’ÉVALUABILITÉ :

Les principaux resultats attendus au terme de l’évaluation de l’évaluabilité d’un projet/ programme sont:

  1. Une théorie de changement du projet/programme plus claire et documentée;
  2. Un cadre logique precis pour évaluer la performance du projet;
  3. Le niveau de perception qu’ont les parties prenantes du projet ainsi que leurs principales préocuppations;
  4. Les modalités de conduite des évaluations futures.

Bienque l’évaluation de l’évaluabilité soit une approche parfois lourde et laborieuse, elle peut être influencée par les caractéristiques du projet, les parties prenantes impliquées ou le contexte d’implantation. C’est pourquoi il peut être nécessaire d’adapter l’approche en fonction de ces réalités. L’évaluation de l’évaluabilité ne pourra peut-être pas répondre à toutes les questions, mais elle peut être une alternative utile pour éviter le statu quo ou la conduite d’une évaluation dont les résultats ne peuvent être utilisés par aucune des parties. Elle facilite la gestion des projets/programmes axées sur les résultats.

Quelques references utiles

Hurteau, M., Houle, S. et Guillemette, F. (dir.). (2012). L’évaluation de programme axée sur le jugement crédible. Québec : Presses de l’Université du Québec.

Larivière, N., et Corbière, M. (dir.). (2014). Méthodes qualitatives, quantitatives et mixtes : dans la recherche en sciences humaines, sociales et de la santé. Québec : Presses de l’Université du Québec.

Mathison, S., (2005). Encyclopedia of Evaluation. University Of British Columbia, Sage Publications, Inc.

Ridde, V. et Dagenais, C. (2012). Approches et pratiques en évaluation de programmes. Montréal : Presses de l’Université de Montréal.

Smith, M. F. (1989). Evaluability assessment: A practical approach. Boston Norwell, Mass. Kluwer Academic; Distributors for North America Kluwer Academic Publishers.

Smith, M. F. (1990). Evaluability assessment: Reflections on the process. Evaluation and Program Planning.

Smith, M. F. (2005). Evaluability assessment. Dans S. Mathison (dir.), Encyclopedia of evaluation (p. 137-140). Thousand Oaks, CA: Sage Publications.

Thomas, D., Agathe D., S., Anne R., et Valéry R., (). Évaluation : Fondements, controverses, perspectives.

Trevisan, M., S., and Huang, Y., M., (2002) Evaluability Assessment : Practical Assessment, Research, and Evaluation. Volume 8, Article 20.

Leave a Reply