Guide de l’évaluateur pour les bourses de recherche des IRSC

Table des matières

Introduction

Au nom des IRSC, nous remercions les évaluateurs d’avoir accepté de siéger à un comité d’évaluation par les pairs. Le succès du processus d’évaluation par les pairs repose sur des gens comme vous qui mettent leur temps et leur expertise au service des comités. Les IRSC et le milieu scientifique vous en sont très reconnaissants.

Le présent document a pour but de fournir des instructions sur le processus d’évaluation par les pairs propre au programme de bourses de recherche des IRSC.

Évaluation par les pairs aux IRSC

Le Guide d’évaluation par les pairs pour les bourses de formation et d’appui salarial des IRSC contient des renseignements sur les objectifs, la gouvernance et les politiques des IRSC et décrit les rôles et les responsabilités des membres des comités d’évaluation par les pairs de même que les politiques, les principes et les procédures d’évaluation par les pairs. Il est important que les évaluateurs se familiarisent avec ce guide, de même qu’avec le présent document, avant le début des évaluations.

Résumé du processus d’évaluation par les pairs

Le programme de bourses de recherche des IRSC a recours à un processus d’évaluation individuel structurée au moyen de la plateforme web RechercheNet. Ce processus se déroule en deux (2) phases. Dans un premier temps, chaque évaluateur se penche sur les demandes qui lui ont été assignées; ensuite, les membres participent à une discussion virtuelle des demandes. Pour les guider, les évaluateurs ont accès en ligne à des séances d’apprentissage interactives qui offrent une formation sur des éléments du processus d’évaluation. Il n’y a pas de réunion du comité dans le cadre de la présente possibilité de financement.

Le programme de bourse de recherche compte cinq (5) comités d’évaluation par les pairs. Chaque demande reçue sera assignée au comité dont le mandat se rapproche le plus de la formation, des titres de compétences et du domaine de recherche du candidat. Le lien pour accéder aux mandats des différents comités figure dans la section « Lire les documents pertinents ».

Toutes les demandes admissibles reçues seront assignées à trois (3) évaluateurs.

On demande aux évaluateurs de suivre les instructions suivantes étape par étape afin de bien effectuer chacune des tâches associées à l’évaluation par les pairs.

  • Phase 1 : Évaluation individuelle
    • Étape 1 : Lire les documents pertinents
    • Étape 2 : Signaler les conflits d’intérêts
    • Étape 3 : Effectuer les évaluations préliminaires
  • Phase 2 : Discussion virtuelle
    • Étape 1 : Accéder aux évaluations des autres évaluateurs
    • Étape 2 : Discuter des demandes
    • Étape 3 : Modifier et confirmer les évaluations
    • Étape 4 : Soumettre les évaluations finales

Phase 1 : Évaluation individuelle

Étape 1 : Lire les documents pertinents

Le présent document détaille le processus d’évaluation par les pairs de ce programme. Il est donc essentiel de le lire et de se familiariser avec celui-ci. Il est également important de prendre connaissance des documents suivants :

Étape 2 : Signaler les conflits d’intérêts

Voici les étapes que les évaluateurs doivent suivre pour signaler les conflits d’intérêts :

  • Ouvrir une session dans RechercheNet.
  • Sur la page d’accueil, cliquer sur le lien du comité attitré pour ouvrir la liste de tâches principale.
  • Effectuer la tâche Examiner Lignes directrices sur la confidentialité et les conflits d’intérêts (lorsque cette tâche sera terminée, les autres tâches s’ouvriront).
  • Ouvrir la tâche Gérer les conflits/Capacité d’évaluer.
  • Consulter les renseignements fournis avec chacune des demandes qui ont été assignées pour indiquer l’aptitude à évaluer la demande ou s’il y a une situation de conflit d’intérêts. Le cas échéant, les IRSC assigneront la demande à un autre évaluateur.

Étape 3 : Effectuer les évaluations préliminaires

Lorsque les conflits d’intérêts auront été déclarés, les évaluateurs pourront accéder à l’intégralité du contenu de leurs demandes en ouvrant la tâche Effectuer des évaluations. Ils devront ensuite suivre les étapes ci-dessous.

3.1 Examiner les critères de sélection

Les évaluateurs doivent tout d’abord se familiariser avec les critères de sélection associés à cette possibilité de financement. Ceux-ci se trouvent dans l’annexe A à la fin du présent document, qui fournit une interprétation des critères et énumère les éléments à évaluer pour chacun d’entre eux.

Il est important de souligner que, pour le présent programme, les attentes par rapport à chaque candidat peuvent varier selon la discipline ou le domaine de recherche. Par exemple, il peut y avoir des différences entre un chercheur biomédical, un clinicien ou un chercheur en sciences sociales pour ce qui est du nombre de publications produites. En outre, un professionnel de la santé ayant produit un nombre minimal de publications peut avoir un dossier de publication de qualité supérieure par rapport à celui d’un chercheur biomédical qui a de nombreuses publications à son actif.

3.2 Lire les demandes assignées

Les évaluateurs sont conseillés de lire attentivement toutes les demandes qui leur sont assignées avant de leur attribuer une cote et de prendre en note leurs commentaires. À cette fin, la Feuille de travail de l’évaluateur pour les bourses de recherche des IRSC est fourni comme modèle à l’annexe B. Ce document est réservé à un usage personnel et ne sera pas soumis aux IRSC.

Il importe de noter que de nombreux candidats mèneront probablement des recherches en dehors de la spécialité scientifique de l’évaluateur. Ce dernier doit donc étudier la demande du point de vue d’un généraliste et évaluer la qualité globale de la recherche proposée par le candidat à l’aide des critères de sélection appropriés. Toutefois, si un évaluateur qui ne se sent pas du tout à l’aise d’évaluer une demande, il devrait immédiatement en aviser le personnel des IRSC pour que la demande soit assignée à un autre évaluateur.

Pour s’assurer que toutes les demandes reçoivent le même traitement, on demande aux évaluateurs de fonder leur évaluation seulement sur le contenu de la demande, et de ne pas faire d’autres recherches sur le candidat ou l’établissement de recherche proposé (p. ex. vérifier des publications au moyen de PubMed). Cependant, les évaluateurs sont libres de consulter des listes publiées des facteurs d’impact des revues lorsqu’ils évaluent les réalisations d’un candidat dans le domaine de la recherche. Il importe toutefois de signaler que les facteurs d’impact des revues varient selon la discipline et qu’ils ne sont pas nécessairement révélateurs de la qualité de chaque article.

Les évaluateurs devraient aussi faire attention aux préjugés inconscients liés au sexe, à la discipline ou à la situation géographique, tels que décrits dans le Guide d’évaluation par les pairs pour les bourses de formation et d’appui salarial des IRSC.

3.3 Attribuer une cote aux demandes assignées

On demande ensuite aux évaluateurs de coter les demandes selon chacun des critères de sélection décrits à l’annexe A. Pour la présente possibilité de financement, on a recours à une échelle de cotation fondée sur des descripteurs (ci-dessous). Il est essentiel d’utiliser toute l’échelle et d’appliquer les mêmes conventions pour attribuer les cotes.

Descripteur Abréviation Définition
Remarquable O++ Pour ce sous-critère, la demande fait preuve d’excellence à l’égard de la plupart ou de la totalité des aspects pertinents. Il peut y avoir des lacunes minimes.
O+
O
Excellent E++ Pour ce sous-critère, la demande fait preuve d’excellence à l’égard d’une bonne partie des aspects pertinents, et se révèle acceptable à l’égard de tous les autres. Des améliorations sont possibles.
E+
E
Bon G Pour ce sous-critère, la demande fait preuve d’excellence à l’égard de quelques aspects pertinents et se révèle acceptable à l’égard de tous les autres. Des améliorations s’imposent.
Passable F Pour ce sous-critère, la demande traite de tous les aspects pertinents d’une manière générale. Des améliorations importantes s’imposent.
Médiocre P Pour ce sous-critère, la demande ne présente pas d’arguments suffisamment convaincants ou présente des lacunes ou des failles importantes.

Tous les détails relatifs à la demande dont les évaluateurs auront besoin pour évaluer chaque critère de sélection se trouvent dans RechercheNet. Il faut tout d’abord sélectionner le critère voulu à partir d’une liste déroulante. L’échelle de cotation apparaîtra ensuite, et il faudra choisir la lettre qui représente le mieux le contenu de la demande. Par la suite, les cotes qui seront soumises pour chaque critère seront pondérées automatiquement par les IRSC dans le calcul du classement global. Cette échelle fournit aux évaluateurs des points de comparaison pour coter les demandes soumises.

3.4 Rédiger une évaluation pour chaque demande assignée

On demande aux évaluateurs de rédiger une courte évaluation venant appuyer les cotes attribuées à chacune des demandes qui leur sont assignées. Les évaluations écrites serviront aussi à amorcer la discussion sur les demandes avec les autres évaluateurs. Elles fournissent aussi des remarques constructives au candidat pour l’aider à améliorer la qualité et l’efficacité de la formation proposée.

Les commentaires devraient être axés sur les forces et les faiblesses liées à chaque critère de sélection. Il est recommandé de :

  • Privilégier la simplicité;
  • Utiliser des descripteurs connus qui correspondront à l’évaluation;
  • Fournir une justification pour chaque sujet présenté, y compris un contexte et une explication des commentaires, le cas échéant;
  • Être clair et concis;
  • Même si la concision est acceptable (p. ex. listes à puces), formuler des opinions complètes et s’assurer de fournir suffisamment de renseignements pour éclairer les lecteurs;
  • Utiliser un langage objectif et non incisif;
  • Éviter soigneusement toute formulation qui pourrait être considérée comme sarcastique, irrévérencieuse, arrogante ou inappropriée de quelque façon que ce soit.

Le candidat recevra l’évaluation telle qu’elle est présentée par l’évaluateur. C’est pourquoi les évaluateurs doivent s’abstenir d’indiquer les cotes dans les commentaires et d’inscrire leur nom afin de préserver la confidentialité du processus d’évaluation.

3.5 Relever toute question devant être portée à l’attention des IRSC

Toute préoccupation liée, entre autres, à l’admissibilité, à l’éthique et aux cellules souches humaines doit immédiatement être portée à l’attention du personnel des IRSC à des fins de suivi, et ne devrait faire l’objet ni de commentaires écrits ni d’un examen dans le cadre d’une discussion en ligne. Pour obtenir la liste complète des questions possibles, veuillez consulter le Guide d’évaluation par les pairs pour les bourses de formation et d’appui salarial des IRSC. Les préoccupations peuvent être signalées aux IRSC par courriel à BourseRecherches@irsc-cihr.gc.ca, ou par l’intermédiaire du Formulaire pour les questions portées à l’attention des IRSC.

Ces points ne devraient pas être considérés comme des critères d’évaluation, sauf qu’ils peuvent avoir un impact sur la qualité scientifique de la demande. Pour connaître le détail des règles pertinentes, les évaluateurs devraient consulter le Guide de subventions et bourses.

3.6 Présentez les cotes et les évaluations préliminaires

Les évaluateurs doivent respecter l’échéance qui leur est fournie et soumettre leurs évaluations et leurs cotes dans RechercheNet au plus tard à la date convenue avec le personnel des IRSC responsable de ce programme. Tout retard dans le processus d’évaluation par les pairs pourrait empêcher les IRSC de rendre leurs décisions aux candidats à la date publiée. Si un évaluateur croit, à un moment ou à un autre du processus, qu’il ne sera pas en mesure de soumettre ses évaluations avant la date limite, il doit en aviser le personnel des IRSC dès que possible.

Phase 2 : Discussion virtuelle

Étape 1 : Accéder aux autres évaluations

Une fois que les évaluations préliminaires et les cotes ont été soumises, les évaluateurs auront accès aux évaluations et aux cotes de leurs collègues. Ils pourront alors comparer leurs cotes à celles des autres évaluateurs et lire les autres évaluations pour cerner les points de convergence et de divergence.

Étape 2 : Discuter les demandes

À cette étape, les évaluateurs seront invités à discuter des demandes qui leur ont été assignées avec les autres évaluateurs affectés aux mêmes demandes. La fonction de discussion en ligne sera accessible à une date préétablie, ou une fois que tous les évaluateurs affectés à une demande auront soumis leurs évaluations, selon la première éventualité. Les statuts suivants les aideront à naviguer dans la fonction de discussion en ligne sur RechercheNet :

Statut Description
En attente La discussion ne peut pas encore commencer. L’évaluateur doit attendre que les autres évaluateurs soumettent leurs cotes préliminaires pour cette demande ou patienter jusqu’à la date de discussion prévue.
Démarrer la discussion On permet à l’évaluateur d’être le premier à afficher un commentaire.
Actif La discussion est commencée.
Actif*
(avec le symbole (*))
Un évaluateur a affiché un nouveau commentaire depuis la dernière fois que vous avez accédé à la discussion.
Fermé Tous les évaluateurs ont soumis leurs cotes finales.
Suspendu La discussion en ligne est close jusqu’à nouvel ordre par les IRSC.

Une fois qu’un commentaire est affiché, il ne peut être ni supprimé, ni modifié. Les commentaires peuvent être affichés à l’attention du personnel des IRSC, et les autres évaluateurs pourront les voir. Toutes les communications à l’attention du personnel des IRSC, incluant les réponses, doivent être marquées.

Un message sera envoyé chaque jour pour informer les évaluateurs des nouvelles diffusions sur le tableau de discussion en ligne.

Étape 3 : Modifier et confirmer les évaluations

3.1 Modifier et confirmer les évaluations

Au terme de la discussion en ligne, les évaluateurs pourront modifier leurs évaluations en changeant leur cotation et en modifiant leurs commentaires. Que des changements soient apportés ou non, tous les évaluateurs doivent soumettre leurs évaluations en cliquant sur Soumettre les évaluations finales.

Après cette étape, les évaluateurs ne pourront plus modifier leurs commentaires écrits.

3.2 Départager les demandes ex aequo

Une fois que les évaluations ont été soumises, un classement initial est calculé automatiquement pour chacune des demandes assignées aux évaluateurs. S’il y a égalité dans le classement, les demandes devront être départagées en changeant leur rang dans le classement (vers le haut ou vers le bas). Le classement original restera visible comme point de référence.

3.3 Modifier la liste de classement

Un classement final sera généré dès que les demandes ex aequo auront été départagées. À cette étape ci, les évaluateurs auront une dernière occasion de modifier l’ordre de classement des demandes en passant en revue le classement final afin de déterminer s’ils en sont satisfaits. Dans la négative, ils peuvent modifier le classement en déplaçant les demandes vers le haut ou vers le bas de la liste. Encore une fois, le classement original restera visible comme point de référence, mais les autres évaluateurs ne verront pas la liste de classement.

Une fois satisfaits, les évaluateurs pourront passer à la prochaine étape qui consiste à soumettre leurs évaluations finales.

Étape 4 : Soumettre les évaluations finales

Lorsque les évaluateurs sont satisfaits de la liste de classement finale des demandes qui leur sont assignées, ils doivent soumettre leurs évaluations et leur classement aux IRSC.

Rétroaction

Un élément important de toute évaluation par les pairs est l’examen final de l’efficacité et du fonctionnement du comité, ainsi que des commentaires sur les questions de politique soulevées au cours du processus. Ces commentaires permettent au personnel des IRSC de répondre à toute préoccupation des membres du comité et de consigner la rétroaction relative au processus d’évaluation par les pairs dans le cadre des efforts continus des IRSC pour maintenir un système d’évaluation par les pairs efficace et de grande qualité.

Puisqu’aucune réunion en personne ou par téléconférence n’est tenue, les évaluateurs doivent envoyer leur rétroaction au coordonnateur du comité, à l’adresse BourseRecherches@irsc-cihr.gc.ca.

Annexe A – Critères de sélection pour les bourses de recherche des IRSC

Voici les trois critères de sélection pour le programme de bourses de recherche des IRSC.

Critère et notes/conseils aux évaluateurs pour l’évaluation
1. Réalisations et activités du candidat (60 %)
a) Attentes en matière de formation

Pondération de ce sous-critère dans la note globale : 10 %

Aperçu du lien entre la formation du candidat et le présent projet de recherche, et présentation des objectifs de carrière.

  • Évaluer la clarté et la logique du plan de carrière du candidat en recherche et de la pertinence de la formation proposée.
  • Considérer la manière dont la formation que le candidat s’attend à acquérir contribuera à sa productivité et aux objectifs de recherche qu’il espère atteindre, ainsi que comment la bourse aidera le candidat à s’établir à titre de chercheur indépendant.
  • Tenir compte de la justification du choix du lieu de formation proposé et de ce que le candidat compte tirer de cette expérience de formation.
  • Juger, le cas échéant, de la justification du choix du candidat de détenir la bourse au même lieu de recherche ou sous la supervision du même directeur de recherche que lors de ses études doctorales (p. ex. établissement de recherche ou centre affilié).
b) Projet de recherche proposé

Pondération de ce sous-critère dans la note globale : 10 %

Résumé du projet de recherche rédigé dans un langage scientifique général en collaboration avec le ou les directeurs de recherche proposés.

  • Déterminer si le projet convient au candidat, compte tenu de ses études, de son expérience et de ses centres d’intérêt. Représente-t-il un juste équilibre entre le défi à relever, l’importance de la question posée et la faisabilité de la recherche, compte tenu de l’expérience et de la formation du candidat?
  • Il convient de noter que ce n’est pas le projet en tant que tel qui est évalué, mais bien le projet en tant que partie intégrante du parcours de chercheur du candidat.
  • Vérifier que le résumé du projet de recherche :
    • inclut les hypothèses particulières de la recherche et décrit le rôle du candidat dans le projet;
    • rend compte de manière concise du thème de recherche, donne un aperçu de chaque partie du plan de recherche, énonce les buts précis du projet et en décrit la méthodologie;
    • illustre bien l’importance du projet.
c) Prix, bourses et distinctions universitaires

Pondération de ce sous-critère dans la note globale : 10 %

Énumération des reconnaissances officielles (p. ex. citations, distinctions, honneurs, prix et bourses) du candidat.

  • Évaluer le nombre, l’importance et la portée des distinctions spéciales qu’a reçues le candidat dans le cadre de ses études, de sa formation et de son travail.
  • Noter le temps nécessaire pour terminer les programmes universitaires et toute indication de distinctions universitaires reçues.
  • Enfin, déterminer la pertinence des reconnaissances officielles par rapport aux recherches du candidat et si elles sont de portée régionale, nationale ou internationale.
d) Publications et réalisations liées à la recherche

Pondération de ce sous-critère dans la note globale : 30 %

Articles, chapitres, livres, ou autres publications (en particulier celles évaluées par les pairs), ainsi que les communications de conférences, les résumés et l’information sur toute application pratique, comme les brevets ou les droits d’auteur. Méthode d’évaluation :

  • Relever l’information sur les réalisations en recherche par rapport aux occasions saisies jusqu’à maintenant, sans oublier que les occasions de publier peuvent varier en fonction du domaine de recherche et du parcours personnel (p. ex. carrière de professionnel de la santé, temps consacré à l’éducation des enfants).
  • Considérer le nombre de coauteurs et le rang qu’occupe le candidat dans la liste des auteurs en ce qui concerne les publications (ce rang peut varier, entre autres, selon la discipline).
  • Tenir compte du rôle du candidat dans les publications, du pourcentage estimatif de sa contribution et du type de publication (p. ex. communication, article, chapitre, livre, etc.).
  • Essayer d’avoir une idée de l’œuvre complète du candidat et de son impact probable en notant les dates de publication et en établissant des liens avec les études et la formation du candidat (gardez à l’esprit que la liste de résumés donne une idée du nombre de communications de conférences).
  • Prendre en considération les autres activités professionnelles du candidat ainsi que les brevets et les droits d’auteur pour lesquels il a apporté sa contribution.
2. Évaluation des caractéristiques et aptitudes du candidat par les répondants

Pondération dans la note globale : 20 %

Évaluation du candidat par trois répondants ayant de préférence dirigé le candidat en formation ou ayant eu l’occasion d’évaluer son potentiel pour la recherche. Il faut tenir compte du fait que les candidats n’ont pas la possibilité de justifier leur choix de répondants dans leur demande. Avec le formulaire d’évaluation du répondant :

  • Chercher les commentaires des répondants attestant que le candidat affiche des caractéristiques et des compétences correspondant à ses réalisations comme chercheur.
  • Analyser les évaluations des répondants en tenant compte du fait que les commentaires positifs sont courants, tandis que les commentaires négatifs ne le sont pas.
  • Lire attentivement le texte d’appui, en prenant note de la mesure dans laquelle les répondants justifient leurs cotes.
  • S’intéresser tout particulièrement aux indications révélant que les répondants perçoivent le candidat comme une personne qui a l’esprit investigateur et critique, qui remet certaines choses en question et qui est originale et indépendante.
  • Rechercher également les notes indiquant que les répondants perçoivent le candidat comme une personne à la fois énergique et concentrée.
  • Relever, si le candidat a eu la chance de mener des recherches, toute mention de créativité dans l’établissement des buts de recherche, la conception d’expériences, l’élaboration de nouvelles méthodologies, l’interprétation de résultats et la présentation de conclusions par écrit.
  • Tenir compte de ce qui suit :
    • Les commentaires détaillés appuient-ils les cotes indiquées sur la première page de l’évaluation?
    • Depuis combien de temps le répondant connaît-il le candidat?
    • Quel est le lien entre le répondant et le candidat?
3. Milieu de formation en recherche

Pondération dans la note globale : 20 %

Éléments du milieu de recherche qui contribueront directement ou indirectement à la qualité de l’expérience de formation en recherche du candidat. Cette section doit démontrer l’engagement du ou des directeurs de recherche proposés et de leur établissement à appuyer le projet de recherche du candidat (par du financement, des installations, de l’équipement, etc.) ainsi que son perfectionnement professionnel.

  • Évaluer l’information sur l’expérience en recherche, les compétences, les distinctions et les prix du ou des directeurs de recherche, ainsi que leur dossier de publication afin d’avoir une idée de leur productivité, de leur influence et de leur collaboration en tenant compte des différentes disciplines et de leur impact sur celles-ci.
  • Déterminer si le milieu de recherche, notamment les locaux, les installations et le personnel de soutien, est adéquat.
  • Dégager les ressources disponibles et le niveau global d’activité en examinant l’information relative aux subventions actuellement détenues et en vérifiant si le directeur de recherche était désigné comme candidat principal ou cocandidat pour ces subventions.
  • Veuillez évaluer le dossier de formation du ou des directeurs de recherche, en notant pour chaque individu énuméré : le niveau de formation, la période passée sous la supervision du directeur de recherche, le diplôme obtenu (s’il y a lieu) et le poste actuel.
  • Tenir compte de l’étape de la carrière du ou des directeurs de recherche et de leur discipline, car vos attentes en matière de mentorat ne devraient pas être les mêmes pour un chercheur récemment établi que pour un chercheur de longue date.

Annexe B – Feuille de travail de l’évaluateur pour les bourses de recherche des IRSC

Le tableau suivant sert de guide pour l’évaluation de la demande. Il ne devrait être utilisé que pour les notes de travail et ne sera pas soumis aux IRSC.

Nom du candidat : __________________________ No demande : _______________________

Critère Cote
(O++, O+, O, E++, E+, E, G, F, P)
Commentaires de l’évaluateur
1. Réalisations et activités du candidat (60 %) a) Attentes en matière de formation (10 %) Forces :
Faiblesses :
b) Projet de recherche proposé (10 %)
c) Prix, bourses et distinctions universitaires (10 %)
d) Publications et réalisations liées à la recherche (30 %)
2. Évaluation des caractéristiques et aptitudes du candidat par les répondants (20 %) Forces :
Faiblesses :
3. Milieu de formation en recherche (20 %) Forces :
Faiblesses :