Types d'évaluation aux IRSC

Les IRSC se livrent généralement à deux grands types d'évaluation par les pairs : les évaluations structurées ou non structurées. Par contre, dans certains cas, d'autres processus d'évaluation peuvent être employé. Quel que soit le type d'évaluation, l'objectif demeure le même : soutenir l'excellence. Voici les principaux facteurs qui déterminent le type d'évaluation et le format de la réunion associés à une possibilité de financement :

  1. Objectifs du programme
  2. Nombre de demandes prévu
  3. Longueur des demandes
  4. Nature de l'évaluation requise (c.-à-d. par critères pondérés, consensus, classement)

1. Évaluation structurée

Pour ce type d'évaluation, les évaluateurs notent les demandes d'après une série de critères préétablis. La note finale est calculée automatiquement selon la pondération des différents critères, permettant ainsi la création d'un classement utilisé pour l'allocation des fonds. La pondération des critères peut être modifiée selon les objectifs du programme (p. ex. expérience, réalisations scientifiques, etc.).

Format des réunions d'évaluation par les pairs

Ce type d'évaluation est communément appelé « évaluation virtuel », car le processus se déroule entièrement par RechercheNet, et les évaluateurs ne se réunissent pas en personne pour discuter des demandes. Voici des exemples de possibilités de financement faisant usage des évaluations structurées : bourses de recherche, bourses de recherche au doctorat et à la maîtrise, subventions de réunion, planification et dissémination (RPD).

2. Évaluation non structurée

Dans l'évaluation non structurée, les évaluateurs « pondèrent » les critères d'évaluation en s'appuyant sur leur jugement pour déterminer la note finale. Ce type d'évaluation repose sur l'idée que les demandes de financement peuvent être de nature extrêmement variée et méritent donc une discussion ou un débat ouverts. Les évaluateurs attribuent une note initiale comme base de discussion pour le comité. Après l'évaluation des forces et des faiblesses de la demande, les évaluateurs lui accordent une note consensuelle, et les membres du comité lui attribuent une cote située à +/-0,5 de cette note. La moyenne des notes des membres du comité sert ensuite à établir un classement utilisé pour l'allocation des fonds.

Format des réunions d'évaluation par les pairs

Les pairs évaluateurs se réunissent en personne ou par téléconférence pour discuter des demandes et en faire le classement. Voici des exemples de possibilités de financement faisant usage des évaluations non structurées : Programme ouvert de subventions de fonctionnement, subventions Catalyseur, subventions d'équipe.

3. Évaluation du mérite

L'évaluation du mérite est un type d'évaluation non structurée qui évalue séparément l'impact potentiel et le mérite scientifique.

Pour ajouter à la description ci-dessus, l'évaluation du mérite est utilisée pour certaines possibilités de financement requérant à la fois une évaluation du mérite scientifique et de l'impact potentiel des projets. Les membres du comité attribuent une note individuelle se situant à +/-0,5 de la note consensuelle pour chacun des deux aspects. La moyenne des notes des membres du comité sert ensuite à établir un classement utilisé pour guider les décisions de financement.

L'évaluation du mérite est utilisée pour les programmes de recherche qui intègrent les utilisateurs des connaissances à tout le processus de recherche, à partir de l'établissement du plan de recherche jusqu'à l'exécution de la recherche et à l'application des résultats. En général, la note attribuée pour l'impact potentiel dépend de l'importance du projet pour les utilisateurs des connaissances et de la probabilité de retombées considérables et durables sur la santé, les pratiques, les programmes et/ou les politiques dans le contexte de l'étude. Ainsi, même si on utilise l'évaluation non structurée pour évaluer les demandes, deux aspects séparés sont notés.

Format des réunions d'évaluation par les pairs

Les réunions d'évaluation du mérite ont lieu dans un format de réunion d'évaluation non structurée. Voici des exemples de possibilités de financement faisant usage de l'évaluation du mérite : partenariats pour l'amélioration des services de santé (PASS), subvention de synthèse des connaissances et subvention de fonctionnement : VIH/sida (recherche communautaire).

4. Catégorisation

Le processus de catégorisation encourage les membres à faire la distinction entre les candidats les plus prometteurs, afin d'assurer l'utilisation de toute l'échelle de cotation. Voici des exemples de possibilités de financement faisant usage du processus de catégorisation : bourses de recherche postdoctorale Banting, bourses d'études supérieures Vanier et bourses salariale pour nouveau chercheur.

Étape 1 - Évaluation structurée

  • Les évaluateurs évaluent les demandes qui leur sont assignées et attribuent une note à chacune en fonction des critères préétablis;
  • Les évaluateurs classent ces demandes dans trois catégories :
    • Financement recommandé;
    • Financement pouvant être recommandé;
    • Financement non recommandé.

Étape 2 - Évaluation non structurée

  • Réunion d'évaluation par les pairs en personne pour discuter d'un groupe de demandes présélectionné;
  • Après le calcul de la moyenne des notes obtenues à l'étape 1, les demandes font l'objet d'un classement
    • Le classement est utilisé pour sélectionner les meilleures demandes, dont le financement pourrait être approuvé automatiquement;
    • Les demandes classées juste après les meilleures font l'objet de discussion à la réunion d'évaluation par les pairs;
    • Les demandes classées au bas de la liste ne font pas l'objet de discussion, sauf si cela est demandé par un membre du comité ou si l'écart entre les notes préliminaires des évaluateurs est assez important pour placer la demande au-delà du seuil de financement.

5. Autre processus d'évaluation spécialisée - Évaluation de la pertinence

Le processus d'évaluation de la pertinence est utilisé par les responsables stratégiques et/ou les partenaires pour évaluer la concordance d'une demande avec le thème de recherche décrit dans la possibilité de financement (PF). Comme son nom l'indique, le processus est utilisé lorsqu'il est important que les demandes soient pertinentes par rapport aux objectifs de recherche visés par la PF. Cette approche d'évaluation est généralement réservée aux PF stratégiques et aux annonces de priorités.

Cette évaluation sert à :

  • évaluer la concordance d'une demande avec la PF;
  • s'assurer que seules les demandes pertinentes sont soumises à l'évaluation par les pairs;
  • s'assurer que les IRSC et leurs partenaires ne financent que les demandes pertinentes par rapport à la PF.

Le processus d'évaluation de la pertinence a généralement lieu après la présélection des demandes admissibles, et avant l'évaluation par les pairs.