Éléments clés du la culture de l'IA dans votre établissement
16 janvier 2024 | Lecture de 7 min
Les documentalistes sont indispensables pour façonner un avenir où l'information générée par l'IA est non seulement abondante, mais aussi crédible, fiable et accessible à tous.
À une époque où l'information est abondamment générée et diffusée, l'essor de l'intelligence artificielle (IA) a considérablement transformé la manière dont nous accédons à l'information et interagissons avec elle. Toutefois, à mesure que la dépendance à l'égard du contenu généré par l'IA s'accroît, la question cruciale de la confiance des utilisateurs dans l'authenticité et la crédibilité des informations générées par l'IA se pose avec acuité. Le contenu généré par l'IA présente souvent aux utilisateurs un réseau complexe d'informations dans lequel il peut être difficile de naviguer.
En outre, l'opacité des algorithmes d'IA et le manque de transparence des processus décisionnels peuvent susciter le scepticisme et le doute chez les utilisateurs. Quelle est la fiabilité des informations produites par l'IA ? Quels sont les cadres permettant d'évaluer la crédibilité des technologies de l'IA ?
Dans ce contexte, les documentalistes, réputés pour leur expertise en matière de conservation, de vérification et de diffusion de l'information, sont particulièrement bien placés pour combler le fossé entre les utilisateurs et l'information générée par l'IA. Les documentalistes peuvent servir d'interprètes et de médiateurs, en facilitant une meilleure compréhension des subtilités des technologies de l'IA et de leur impact sur la recherche d'informations. Les documentalistespeuvent également renforcer la confiance des utilisateurs en soutenant la formation à l'IA et en plaidant pour la transparence des systèmes d'IA.
Éduquer les utilisateurs : L'éducation à l'IA sur les campus
Pour commencer à évaluer l'IA, les utilisateurs doivent d'abord la comprendre ou se familiariser avec elle. La maîtrise de l'IA consiste à connaître, comprendre, utiliser et évaluer l'IA, ainsi qu'à prendre en compte les questions éthiques (Ng, et al, 2021). Les personnes compétentes en matière d'IA comprennent également les concepts fondamentaux de l'IA tels que l'apprentissage automatique, le traitement du langage naturel et les réseaux neuronaux. Afin de doter les étudiants, les chercheurs et les enseignants des compétences nécessaires pour naviguer dans ce paysage complexe, les bibliothèques doivent donner la priorité au développement de ressources de formation qui permettent aux individus d'examiner minutieusement les informations fournies par les applications de l'IA. Lorsque les utilisateurs des bibliothèques comprennent les capacités et les freins de l'IA, ils peuvent évaluer correctement les outils et les ressources basés sur l'IA.
Les concepts de la maîtrise de l'IA peuvent être enseignés dans de nombreux domaines traditionnels de la littératie, tels que la maîtrise de l'information, la maîtrise des médias et la littératie numérique. N'oubliez pas qu'il n'est pas nécessaire d'être un expert en informatique pour créer ou participer à des ateliers d'initiation à l'IA. L'essentiel de la maîtrise de l'IA ne réside pas dans l'expertise technique, mais dans la promotion de la pensée critique.
Outre une compréhension fondamentale des concepts de l'IA, la culture de l'IA implique également la capacité d'évaluer de manière critique les technologies de l'IA. L'utilisation d'une approche structurée ou de stratégies de questionnement spécifiques pour l'évaluation peut jouer un rôle central en facilitant des discussions plus significatives, conduisant finalement à une meilleure compréhension et à une évaluation critique. Vous trouverez ci-dessous quelques techniques pour entamer ce processus, ainsi que des questions structurées conçues pour guider les personnes non techniques.
Le test ROBOT
Une ressource particulièrement utile est connue sous le nom de test ROBOT (Wheatley et Hervieux, 2020). Il a été développé par deux documentalistes de l'Université McGill, Amanda Wheatley et Sandy Hervieux, afin d'offrir un cadre structuré permettant aux personnes qui ne connaissent pas l'IA d'évaluer les nouvelles informations relatives à la technologie de l'IA.
ROBOT, acronyme de reliability, objective, bias, ownership, and type( fiabilité, objectif, partialité, propriétéet type), définit des critères clés pour l'évaluation des informations sur les outils d'IA. Chaque mot de l'acronyme comprend une série de questions qui guident les utilisateurs dans un processus d'évaluation complet. Par exemple, pour discerner le type d'outil d'intelligence artificielle, les utilisateurs peuvent poser des questions comme celles-ci :
À quelle catégorie spécifique d'IA appartient-elle ?
La technologie relève-t-elle davantage d'un concept ou d'une utilisation pratique ?
De quel type de système d'information dépend-il ?
Nécessite-t-il une implication humaine ?
Une présentation complète du test ROBOT et des questions qu'il invite l'utilisateur à poser est disponible sur le site AI Literacy de la bibliothèque de McGill(S'ouvre dans une nouvelle fenêtre) S’ouvre dans une nouvelle fenêtre.
Évaluation et développement de l'explicabilité
La maîtrise de l'IA implique également d'être capable d'évaluer et d'expliquer ces technologies. Les nouveaux utilisateurs sont susceptibles de considérer un système d'IA comme une "boîte noire" dans laquelle des informations sont introduites dans le système et une réponse en ressort sans que l'on comprenne comment le système est parvenu à cette réponse. Une meilleure explication permet aux utilisateurs de voir dans la boîte noire et d'examiner comment les données d'entrée sont utilisées pour créer les données de sortie. Il s'agit d'une étape essentielle dans la construction de la confiance des utilisateurs. Les documentalistes peuvent et doivent plaider en faveur d'une plus grande transparence des systèmes d'IA et encourager les développeurs et les entreprises technologiques à divulguer le fonctionnement interne des contenus générés par l'IA.
Cependant, la nature complexe des systèmes d'IA pose souvent un problème lors des dialogues entre les développeurs et les utilisateurs finaux. Les personnes non spécialisées, en particulier, peuvent éprouver des difficultés à formuler efficacement leurs demandes, même lorsqu'elles ont la possibilité de demander des explications. Après tout, vous ne savez pas ce que vous ne savez pas. Si vous ne connaissez pas bien le sujet, il est difficile de prévoir les questions appropriées. Cela souligne la nécessité pour les utilisateurs de se familiariser avec les concepts de base de l'IA avant d'évaluer les systèmes d'IA plus complexes.
Dans les deux sections suivantes, nous présentons les types d'explications et les éléments clés de l'explicabilité, ainsi que des questions exemplaires destinées à guider les utilisateurs dans leur exploration et leur évaluation des systèmes d'IA.
Types d'explications des systèmes d'IA
L'explication commence par la compréhension des capacités des systèmes d'apprentissage automatique (Cabitza et al, 2023). Il s'agit notamment de reconnaître ce que ces systèmes peuvent ou ne peuvent pas offrir aux utilisateurs et de reconnaître les domaines dans lesquels les décideurs humains doivent encore faire preuve d'interprétation et de jugement.
Les utilisateurs peuvent alors commencer à examiner la fonctionnalité du système d'IA, ses résultats et bien d'autres choses encore. Dans un article récent, Cabitza et al. ont présenté une vue d'ensemble complète identifiant les différents types d'explications des systèmes d'IA et les critères d'évaluation de leur qualité (2023). Ils ont proposé les questions clés suivantes dans la recherche d'explications pour les systèmes d'IA : "
Explication computationnelle : Comment l'algorithme A produit-il une sortie O quelconque ?
Explication mécaniste : Pourquoi l'algorithme A a-t-il produit la sortie O ?
Explication justificative : Pourquoi la sortie O est-elle correcte ?
Explication causale : Quel est le phénomène physique à l'origine de O ?
Explication informative : Que signifie la sortie O ?
Explication de prudence : Quelle est l'incertitude qui se cache derrière la sortie O ?"
En parcourant ces différents domaines d'explication, les utilisateurs peuvent commencer à démystifier la "boîte noire" d'un système d'IA et gagner en confiance dans l'utilisation des systèmes d'IA en tant qu'outils pour naviguer dans leurs recherches ou leurs travaux de cours.
Les éléments clés de l'explicabilité
Qu'est-ce qui constitue une bonne explication de l'IA ? Pour aider à établir les critères d'explication des systèmes d'IA, Balasubramaniam et ses collègues (2023) ont proposé un cadre décrivant les composantes clés de l'explicabilité. Ce modèle sert de guide aux praticiens, les aidant à déterminer les exigences spécifiques en matière d'explicabilité en répondant à des questions cruciales :
Destinataires (demandez-vous à qui l'explicateur tente d'expliquer ?)
Aspects (Que faut-il expliquer ?)
Contexte (quelles sont les situations contextuelles nécessitant une explication ?)
Explicatif (Qui explique ? )
Encouragez les utilisateurs à chercher des réponses à chacun de ces éléments lorsqu'ils posent des questions pour expliquer les systèmes d'IA.
Elsevier reconnaît que la transparence et l'explicabilité sont devenues des exigences de qualité émergentes pour les systèmes d'IA. Dans le cadre de son système Explainable AI, la vidéo complète ci-dessous explique la technologie qui sous-tend l'IA de Scopus S’ouvre dans une nouvelle fenêtre.
Regardez la vidéo ci-dessous ↓
Conseil : essayez d'appliquer les cadres d'évaluation et les questions clés ci-dessus dans l'article lorsque vous regardez la vidéo
The Technology behind Scopus AI
Les documentalistes peuvent renforcer la confiance dans les technologies d'IA
En s'engageant activement dans des initiatives de formation à l'IA, les documentalistes peuvent jouer un rôle déterminant pour permettre aux utilisateurs de prendre des décisions éclairées sur la crédibilité des informations générées par l'IA. Grâce à leur expertise en matière de maîtrise de l'information et à leur engagement à promouvoir des pratiques d'information transparentes et éthiques, les b documentalistes peuvent inspirer un sentiment de confiance dans la fiabilité des technologies de l'IA.
Pour favoriser la confiance des utilisateurs dans les technologies d'IA, la collaboration entre les documentalistes, les développeurs d'IA et les décideurs politiques est essentielle. L'établissement d'une approche multidisciplinaire qui donne la priorité à la transparence, à l'éducation et aux considérations éthiques peut ouvrir la voie à un écosystème de l'IA plus fiable et plus responsable. Les documentalistes sont indispensables pour façonner un avenir où l'information générée par l'IA est non seulement abondante, mais aussi crédible, fiable et accessible à tous.
Dive deeper into AI topics for librarians:
The role of AI in library services S’ouvre dans une nouvelle fenêtre looks at making AI more accessible at your institution, including recommendations for supporting researchers and students.
Addressing bias in AI-fueled knowledge systems S’ouvre dans une nouvelle fenêtre discusses the way librarians and researchers are working together to combat the biases in AI models.
BIBLIOGRAPHIE
Abedin, B., Meske, C., Rabhi, F. et Klier, M. (2023). Introduction au minitrack sur l'intelligence artificielle explicable (XAI).
Balasubramaniam, N., Kauppinen, M., Rannisto, A., Hiekkanen, K. et Kujala, S. (2023). Transparence et explicabilité des systèmes d'IA : Des lignes directrices éthiques aux exigences.information and Software Technology,159, 107197.
Borrego-Díaz, J., et Galán-Páez, J. (2022). L'intelligence artificielle explicable en science des données : From Foundational Issues Towards Socio-technical Considerations.minds and Machines,32(3), 485-531.
Buijsman, S. (2022). Définir l'explication et la profondeur explicative dans l'IAO.minds and Machines,32(3), 563-584.
Cabitza, F., Campagner, A., Malgieri, G., Natali, C., Schneeberger, D., Stoeger, K., & Holzinger, A. (2023). Quod erat demonstrandum?-Towards a typology of the concept of explanation for the design of explainable AI (Vers une typologie du concept d'explication pour la conception d'une IA explicable).expert Systems with Applications,213, 118888.
Kangra, K. et Singh, J. (2022). Intelligence artificielle explicable : Concepts et progrès actuels. DansExplainable Edge AI : A Futuristic Computing Perspective(pp. 1-17). Cham : Springer International Publishing.
Kasinidou, M. (2023, juin). L'alphabétisation AI pour tous : Une approche participative. InProceedings of the 2023 Conference on Innovation and Technology in Computer Science Education V. 2(pp. 607-608). https://doi.org/10.1145/3587103.3594135(S'ouvre dans une nouvelle fenêtre) S’ouvre dans une nouvelle fenêtre
Kong, S. C., Cheung, W. M. Y. et Zhang, G. (2022). Évaluation des cours d'initiation à l'intelligence artificielle pour favoriser l'apprentissage conceptuel, l'alphabétisation et l'autonomisation des étudiants universitaires : Recentrage sur la construction conceptuelle. Computers in Human Behavior Reports, 7, 100223. https://doi.org/10.1016/j.chbr.2022.100223(S'ouvre dans une nouvelle fenêtre) S’ouvre dans une nouvelle fenêtre
Nagahisarchoghaei, M., Nur, N., Cummins, L., Nur, N., Karimi, M. M., Nandanwar, S., ... & Rahimi, S. (2023). Enquête empirique sur les technologies de l'intelligence artificielle explicable : Recent trends, use-cases, and categories from technical and application perspectives.electronics,12(5), 1092.
Ng, D. T. K., Leung, J. K. L., Chu, K. W. S. et Qiao, M. S. (2021). Connaissance de l'IA : Définition, enseignement, évaluation et questions éthiques.proceedings of the Association for Information Science and Technology,58(1), 504-509. https://doi.org/10.1002/pra2.487(S'ouvre dans une nouvelle fenêtre) S’ouvre dans une nouvelle fenêtre
Hervieux, S. et Wheatley, A. (2020). Le test ROBOT [Outil d'évaluation]. The LibrAIry. https://thelibrairy.wordpress.com/2020/03/11/the-robot-test(S'ouvre dans une nouvelle fenêtre) S’ouvre dans une nouvelle fenêtre
Quakulinski, L., Koumpis, A. et Beyan, O. D. (2023). Transparence dans les systèmes d'intelligence artificielle médicale.international Journal of Semantic Computing.