Point de vue: pour une IA plus inclusive
27 avril 2019 | Orit Halpern
Je suis une historienne et sociologue des sciences qui étudie les infrastructures, les villes intelligentes et l’incidence de l’intelligence artificielle sur la société. Je me réfère à l’histoire de l’écologie, des sciences humaines et de la cybernétique pour questionner le présent et imaginer comment nous pouvons créer des technologies meilleures et plus inclusives pour les humains, les machines, et plus encore.
Pour aborder l’avenir de l’intelligence artificielle (IA), il faut d’abord se pencher sur sa définition. Pourquoi est-elle artificielle? Existe-t-il une seule sorte d’intelligence?
J’attire l’attention sur le caractère artificiel de l’IA parce que ces systèmes reposent sur des ensembles de données et des algorithmes mis au point par des humains. À ces éléments se greffent nos hypothèses normatives à propos de la société, de l’évolution, de l’intelligence, de la race, du sexe, de l’économie, etc. Bon nombre des méthodes d’apprentissage développées pour les machines s’appuient sur les principes de la concurrence, des jeux compétitifs et de la capacité à établir des distinctions entre les personnes et les choses. L’IA peut-elle être réellement artificielle si les humains la programment en fonction de leurs hypothèses et de leurs perspectives historiques?
Les créateurs d’algorithmes ont aussi leurs propres idéaux de l’échec et du succès. Ces idéaux s’intègrent aux systèmes des machines et ont des répercussions sociales qui sont souvent discriminatoires. Cela engendre un biais de confirmation en intelligence artificielle : les machines renforcent seulement les idées sur l’évolution et le changement avec lesquelles elles ont été programmées.
Par exemple, notre conception des machines intelligentes se base-t-elle sur l’image d’un corps normal et en santé? Pourrions-nous les concevoir en ayant à l’esprit des études en matière de handicap? Peut-on s’inspirer des perspectives féministes, autochtones et critiques de la race et d’autres modes de pensée pour repenser nos hypothèses universelles dictant notre relation avec les autres humains et les entités non humaines sur la planète? Pour imaginer différentes formes d’intelligence?
Nous pouvons aussi tirer des leçons de la science. L’écologie nous apprend que les systèmes doivent souvent miser sur la diversité pour s’adapter au changement. L’évolution n’est pas qu’une question d’aptitudes, mais aussi de variété. Le même principe peut s’appliquer à l’automatisation des environnements urbains ou industriels. Plutôt que de cloisonner ces espaces, nous devrions tenir compte des rapports qui existent en leur sein et entre eux. Les villes intelligentes et leurs technologies inhérentes seront plus résilientes si elles sont diversifiées.
Pour concevoir des systèmes technologiques plus inclusifs, il est aussi essentiel de considérer que nous le faisons avec des entités non humaines et pour celles-ci. Les machines intelligentes n’ont donc pas à être des répliques exactes des humains, et les villes n’ont pas à être conçues uniquement pour les humains. À mesure que les humains cohabitent plus facilement avec les machines et les technologies, nos environnements physiques doivent refléter cette réalité.
Les questions au sujet de l’intelligence artificielle et de leur incidence potentielle sur nos vies sont nombreuses. En les posant, nous devons garder l’esprit ouvert et être prêts à remettre en cause notre conception de la nature, de la vie rurale et urbaine, ainsi que de l’humain et du non-humain afin de concevoir un avenir prônant la diversité et l’inclusion.
Cet article a été publié à l’origine dans Le Devoir.
