Allison Faix et Samantha Duncan de la Coastal Carolina University discutent des mesures que les chercheurs peuvent prendre pour garantir l'exactitude des informations recueillies par l'IA.
Près de 25 % des adultes aux États-Unis utilisent l'intelligence artificielle chatbots au quotidien, selon une étude de 2026 du Pew Research Center.
Dans le même temps, une autre étude récente a révélé que 48 % des informations utilisées par les chatbots gratuits populaires a donné en réponse aux questions sur l'actualité contenait des erreurs.
En tant que bibliothécaires, nous savons que si les étudiants utilisent des chatbots IA pour les aider dans leurs recherches universitaires, ils ne devraient pas supposer que les informations qui leur sont fournies sont exactes.
Toutes les IA ne sont pas identiques. Voici quatre étapes que nous recommandons pour remettre en question les informations générées par l’IA, notamment en vérifiant la source d’origine et en prenant en compte les problèmes qui ne sont pas toujours faciles à repérer.
Trouvez la meilleure solution
Premièrement, nous pensons qu’il est logique de consacrer du temps à choisir le bon outil d’IA pour la tâche à accomplir.
Les outils d'IA, que ce soit Assistant de recherche Primo d'ExLibris, Scite de Research Solutions, Claude d'Anthropique ou ChatGPT d'OpenAIsont formés avec divers ensembles de données et utilisent différents algorithmes pour générer des résultats. Ils ne doivent pas être utilisés de manière interchangeable.
Certains outils peuvent être meilleurs ou moins efficaces pour répondre à des types spécifiques de questions, et le types de réponses ils génèrent peuvent varier.
Les gens pourraient choisir ChatGPTpar exemple, au début de leur processus de recherche, car il peut fournir des aperçus et des résumés pour aider à comprendre les concepts.
Dans les étapes suivantes, ils pourraient choisir un outil tel que Assistante de recherche Primo ou Scopus AI, qui peut vous aider trouver et examiner des recherches évaluées par des pairs qui a été examiné par des universitaires.
Les étudiants menant des recherches universitaires pourraient également voir si leur bibliothèque est abonnée à un outil d'intelligence artificielle. comme LeapSpace ou consensusqui tirent leurs données de recherches universitaires évaluées par des pairs.
L'utilisation de ces outils d'IA spécifiques n'élimine pas la nécessité d'évaluer leurs réponses, mais offre plus de certitude que les données ont été soumises à un processus d'examen.
Des outils tels que Claude d'Anthropic, quant à eux, peuvent également s'inspirer de la recherche universitaire, mais on ne sait pas clairement dans quelle mesure. Selon Anthropic, Claude déclare être formé sur un mélange exclusif d'informations accessibles au public provenant de sources en ligne, d'ensembles de données publiques et privées, de données d'utilisateurs et données synthétiques générées par d'autres modèles.
Enfin, il peut être utile de lire les avis des bibliothécaires sur les outils d'IA pour vous aider à sélectionner la meilleure solution. Les gens peuvent également passer un simple test en ligne tel que ROBOT pour les aider à réfléchir quel outil utiliser.
Posez plus de questions
Deuxièmement, poser des questions de suivi est un élément important de l’évaluation des réponses générées par les outils d’IA. Même si la réponse donnée par un outil d’IA semble bonne, il est utile de prendre le temps d’en apprendre davantage.
Vérifier ses propres émotions est également important, car les chatbots IA sont connus pour flatter les utilisateurs en donnant des réponses basées sur les les propres préjugés de l'utilisateurou ce que l'utilisateur veut entendreplutôt que de simples faits.
Demandez à l’IA de vous dire d’où elle a obtenu l’information, dans quelle mesure elle est sûre que la réponse est correcte et ce qui pourrait manquer. Demandez à l’IA pourquoi elle pense que la réponse est correcte, ou demandez-lui d’expliquer comment elle est parvenue à une réponse.
Il est également utile de vous assurer que votre invite est formulée de manière neutre. Par exemple, demandez : « Que dit la recherche psychologique sur les médias sociaux et l’anxiété ? » plutôt que « Dites-moi pourquoi les médias sociaux provoquent de l'anxiété » peut produire des réponses différentes.
Vérifiez la source
Troisièmement, il est utile de retracer toutes les affirmations du chatbot IA jusqu’à leurs sources d’origine.
Les élèves sont peut-être familiers avec l'utilisation du Processus SIFT pour évaluer des sites Web. Ce processus demande aux gens de s'arrêter, d'enquêter sur la source, de trouver une meilleure couverture et de retracer les réclamations jusqu'à leur source d'origine.
Commencez par demander au chatbot de citer ses sources, s’il ne l’a pas déjà fait.
Ensuite, accédez à chaque source et lisez suffisamment pour déterminer si l’IA utilise les informations dans le bon contexte. Vérifiez également qui est l’auteur de la source et s’il possède une expertise sur le sujet. Si l'IA ne cite pas les sources qu'elle a utilisées, ou si les sources qu'elle cite n'incluent pas les informations qu'elle prétend contenir, retirez toutes les affirmations qu'elle fait et effectuez des recherches plus approfondies.
Pouvez-vous trouver d’autres sources crédibles qui soutiennent ce que dit l’IA, en utilisant Google ou une base de données de bibliothèque ? Pouvez-vous déterminer d’où l’IA a pu obtenir l’information et si cette source est crédible ?
Si cela vous semble demander beaucoup de travail, vous pouvez toujours accéder directement aux bases de données des bibliothèques au lieu d'utiliser des outils d'IA.
Tous les problèmes ne sont pas faciles à repérer
Quatrièmement, il existe d’autres problèmes moins visibles qui peuvent survenir lors de l’utilisation d’outils d’IA.
Par exemple, il n’est pas toujours facile de savoir si un outil d’IA manque de perspectives importantes ou fournit des informations biaisées.
N'oubliez pas que c'est vous, et non l'outil d'IA, qui êtes le chercheur. Il peut être facile de s'appuyer sur un outil d'IA pour générer un résumé des sources importantes, mais décider vous-même des sources à utiliser vous aide à approfondir votre connaissance d'un sujet.
La recherche montre que la plupart des outils d'IA se concentrent sur des sources telles que des sites Web, des forums Internet et d'autres contenus en ligne disponibles gratuitement et écrit en anglais. Réfléchissez aux connaissances spécialisées qui pourraient manquer dans les ensembles de données d’IA et recherchez ces points de vue si nécessaire.
Enfin, n'oubliez pas que vous devez citer l'outil d'IA que vous avez utilisé si vous citez ou paraphrasez le texte généré par celui-ci dans votre travail, tout comme vous citeriez n'importe quelle autre source.
L'intelligence artificielle évolue rapide. En tant que bibliothécaires, nous pensons qu’il est important d’évaluer continuellement si les outils que vous utilisez fonctionnent toujours pour vous.
Ces conseils sont un bon point de départ pour vous aider à perfectionner vos compétences en évaluation.
Par Allison Faix et Samantha Duncan
Allison Faix est la coordonnatrice de l'enseignement à la bibliothèque Kimbel à Université côtière de Caroline. Son travail se concentre sur la maîtrise de l’information, l’évaluation des sources, la désinformation et l’enseignement aux étudiants sur la manière d’évaluer les informations en ligne. Elle a publié et présenté des approches d'évaluation des sources, notamment la méthode SIFT et le cadre de maîtrise de l'information de l'ACRL, et plus récemment sur l'évaluation des résultats de l'IA générative. Elle a également été professionnellement active dans le domaine de la bibliothéconomie universitaire et a contribué aux initiatives de recherche et d'enseignement de Coastal Carolina.
Samantha Duncan est bibliothécaire en conception pédagogique à Université côtière de Caroline Bibliothèques universitaires. Son travail porte sur la conception pédagogique, l'apprentissage numérique et l'utilisation des technologies émergentes dans l'enseignement supérieur. Avant de rejoindre Coastal Carolina, elle a travaillé à l'Université McMaster, où elle a contribué à Beyond the Exam, un projet explorant des approches plus flexibles et authentiques de l'évaluation en ligne.
