Une équipe de recherche de l’Université Concordia conçoit un jeu de société explorant l’éthique de l’IA

L’intelligence artificielle transforme rapidement la façon dont les gens étudient, travaillent et créent, mais les implications éthiques de l’usage courant de l’IA peuvent être abstraites et difficiles à comprendre. Une équipe de recherche de l’Université Concordia s’attaque à ce défi en présentant l’éthique de l’IA sous la forme d’un jeu de société.

Financé par l’Observatoire international sur les impacts sociétaux de l’IA et du numérique (Obvia) et le Laboratoire vivant d’innovation sur l’apprentissage en enseignement supérieur (LAVIA), le jeu Alimentez la machine donne à chaque protagoniste un rôle de stagiaire dans un organe de presse ainsi que la tâche de produire des articles en décidant d’utiliser ou non des outils d’IA – et si oui, comment.

« Nous parlons souvent de l’IA éthique sous l’angle des systèmes et des règlements », affirme la chercheuse principale du projet, Ann-Louise Davidson, professeure au Département des sciences de l’éducation et directrice du Laboratoire d’innovation de Concordia. « Mais en pratique, les gens vivent ces questions d’éthique dans les petites décisions qu’ils prennent dans leur travail de tous les jours. Le jeu les aide à réfléchir à ces décisions de manière concrète. »

Le jeu sera imprimé en français et en anglais dans les prochains mois, et dans le cadre de son lancement, des séances pilotes et des activités de recherche sont prévues.

Un jeu qui carbure à la pression

Dans Alimentez la machine, les joueuses et joueurs franchissent les différentes étapes d’une simulation de stage, recueillant des ressources afin de préparer des reportages et de gagner des points. Les longs articles qui traitent les sujets en profondeur permettent d’obtenir de plus grandes récompenses, mais exigent souvent plus de temps et d’effort. L’IA peut accélérer le processus de rédaction, mais son utilisation peut aussi comporter des risques cachés.

Chaque fois qu’une joueuse ou un joueur recourt à l’IA ou adopte une pratique risquée, elle ou il pige des cartes représentant de potentielles conséquences éthiques involontaires, comme des hallucinations ou la propagation de mésinformation. Les choix éthiques, en revanche, ralentissent la progression, mais peuvent procurer des avantages à long terme.

Selon le cocréateur Scott DeJong, doctorant en communication, le concept du jeu modélise les tensions entourant l’intégration de l’IA dans nos pratiques. Plutôt que de se voir donner toutes les réponses, les protagonistes doivent soupeser les compromis que nécessite chaque décision.

La tension augmente à mesure que les protagonistes voient leurs pairs progresser plus vite en employant des outils d’IA, ce qui reflète la pression ressentie par bien des gens au travail dans le monde réel.

« À un certain point, les joueuses et joueurs cessent de remettre en question leurs choix et adoptent une démarche d’optimisation juste pour rester dans la course », explique la professeure Davidson. « Ce moment est important : il reflète ce qui se produit dans les vrais milieux de travail, où l’impératif de la productivité peut avoir le dessus sur les considérations éthiques. »

À la fin du jeu, dans un rebondissement du récit, les protagonistes apprennent que leur travail a servi à entraîner un système d’IA, ce qui provoque une discussion de groupe sur la responsabilité, les conséquences involontaires et la prise de décisions collectives.

Une ressource dérivée de la recherche

Conçu à l’origine comme un projet de recherche, Alimentez la machine a suscité l’intérêt de personnes enseignantes, d’organismes publics et de partenaires du secteur privé qui souhaitaient l’utiliser comme outil de sensibilisation aux enjeux de l’IA et de formation en éthique.

L’équipe prévoit distribuer les centaines d’exemplaires du jeu à des établissements et à des facilitateurs. Une version imprimable sera également offerte afin que les organisations géographiquement éloignées ou aux ressources limitées puissent organiser des séances sans matériel spécialisé.

Le projet explore également un domaine de recherche émergent : comment la facilitation par le jeu peut aider les joueuses et joueurs à aborder des sujets parfois difficiles sur le plan des émotions tels que l’éthique, la responsabilité et le risque technologique.

« La facilitation est essentielle, soutient Ann-Louise Davidson. Une séance bien encadrée aide les personnes participantes à réfléchir aux émotions qu’elles ont eues durant la partie, et non seulement sur leurs actions. C’est dans cette réflexion que réside le réel apprentissage. »

Une suite de jeux sur l’éthique de l’IA

Alimentez la machine est une des trois expériences de jeu de société conçues par une équipe de recherche plus vaste, chacune destinée à l’exploration de l’IA éthique sous un angle et à un degré de profondeur différents.

Le plus axé sur la recherche des trois, Quête de l'IA éthique, se fonde sur des outils de cartographie des systèmes initialement conçus pour aider les entrepreneurs à analyser les répercussions globales de leurs innovations. Les protagonistes suivent des scénarios concrets – par exemple l’utilisation de l’IA en recrutement, le journalisme ou la production de contenu pour les médias sociaux – tout en cartographiant les parties intéressées, les risques et les conséquences involontaires en fonction de 12 dimensions de l’IA éthique.

Une expérience individuelle plus courte, Route des choix risqués, condense ces idées en un exercice de réflexion rapide que l’on peut terminer en 10 minutes environ, ce qui le rend plus facile à intégrer dans les ateliers ou les cours en classe où le temps est limité.

Ensemble, ces trois jeux sont conçus pour être accessibles à tous les types de joueurs, que ce soit des étudiants néophytes des outils d’IA ou des professionnels aux prises avec des décisions organisationnelles complexes.

Bâtir la littératie en IA

Ann-Louise Davidson souligne que le projet fait également partie d’un mouvement plus vaste vers des approches d’enseignement analogiques pour aborder des sujets technologiques complexes. Ces méthodes n’exigent ni ordinateurs ni accès à Internet, mais permettent tout de même aux personnes participantes d’explorer les dimensions sociales et éthiques des systèmes numériques.

Malgré l’adoption rapide des outils d’IA générative depuis 2022, un récent sondage SOM-Radio-Canada montrait que bon nombre de personnes étudiantes ont reçu peu de formation structurée sur l’utilisation responsable de ces technologies. Les supports interactifs comme les jeux pourraient créer l’espace nécessaire pour faire une pause, réfléchir et discuter, estiment les membres de l’équipe de recherche.

« Nous ralentissons rarement pour penser aux implications éthiques des technologies que nous utilisons », fait remarquer la professeure Davidson. « Les jeux créent un moment structuré où les gens peuvent prendre un pas de recul, faire l’expérience de différents choix et en observer les conséquences, sans causer de tort réel. »

L’équipe invite actuellement écoles, organismes publics et autres établissements à demander des exemplaires des jeux et à participer aux activités de recherche à venir sur l’utilisation d’approches ludifiées pour faciliter l’éducation en éthique de l’IA.

Les particuliers peuvent s’inscrire maintenant pour recevoir une copie de Alimentez la machine au moment de son lancement.

Découvrez le Département des sciences de l’éducation de l’Université Concordia.