Revue Quart Monde N°259 | L’intelligence artificielle en questions

Trimestriel – n° 259 – 8 € – 10 FS – 11 $CAN
À commander sur le site des Éditions Quart Monde. Possibilité de s’abonner.

Introduction

Par Martine Hosselet-Herbignat, volontaire permanente d’ATD Quart Monde

« L’intelligence artificielle » (IA) : un gros mot, une énigme, une menace insaisissable, un sujet de débats sans fin ?… « On ne sait pas trop… » disent des personnes membres d’ATD Quart Monde à Lyon et Brest1. Mais que nous le voulions ou non, nous sommes cernés par cette réalité, et l’impact que l’intelligence artificielle a et aura de plus en plus sur la vie des citoyens les plus précarisés et exclus est déjà largement perceptible.

  • « La majorité des personnes vivant la pauvreté et l’exclusion sociale se sont mises à utiliser internet sous un angle spécifique, la communication directe. Facebook et Messenger surtout, qui sont préinstallés sur les smartphones, TikTok pour certains…, avec des stratégies particulières pour contourner les obstacles », car « confrontées à toutes les difficultés et limites provoquées par la privation massive de l’accès à l’instruction qui caractérise souvent l’exclusion sociale »2.

En 2019, Philip G. Alston, alors Rapporteur spécial des Nations Unies sur l’Extrême pauvreté et les droits de l’Homme, a consacré un de ses rapports thématiques à la question. Il mettait en évidence la manière dont aux États-Unis, en Grande-Bretagne et ailleurs dans le monde, des décisions telles que la nature et la durée des peines de prison, la nature et les montants des aides sociales, et d’autres encore étaient de plus en plus décidées à travers des algorithmes.

Quels dangers principaux le développement de l’IA fait-il peser sur les plus pauvres ? Dans quels domaines et à quelles conditions pourrait-elle au contraire être un outil supplémentaire pour leur libération ?

Ce dossier voudrait apporter quelques pistes et réponses… « Il s’agit, par la puissance gigantesque des calculs, d’augmenter les capacités humaines. Comme toujours, plus il y a de puissance plus il devrait y avoir de sagesse » disent encore des membres du Mouvement. La technologie, qui génère solidarité et lien social, ne peut être incontrôlée, dépourvue d’une dimension de valeur, rappelle Roberto Rossini3. Mark Hunyadi, philosophe4, montrant comment l’obéissance de plus en plus imposée aux machines organisant nos vies « fait de nous des machines obéissantes », appelle de son côté à la création d’une véritable institution de régulation, hors de toute logique de marché, à l’instar des comités de bioéthique. En conclusion (provisoire et engagée) :

« À ATD Quart Monde on défend l’idée de partir de la parole des plus démuni·es pour penser la société. Défendons aussi cette idée pour l’intelligence artificielle, et restons non seulement vigilant·es mais aussi acteurs et actrices »5.


Pour lire l’article publié par les Nations-Unies, “Intelligence artificielle : face aux risques d’atteinte à la vie privée, l’ONU demande un moratoire sur certains systèmes”, cliquer ici

  • « Selon l’ONU, de nombreuses personnes ont déjà été “traitées injustement à cause de l’IA”, comme se voir refuser des prestations de sécurité sociale à cause d’outils d’IA défectueux ou encore être arrêté(e) à cause d’un problème de reconnaissance faciale. »
  1. À Brest, lors d’une séance de l’Atelier lire écrire numérique, et à Lyon, lors d’un Café rencontre à la maison Quart Monde, avec des personnes de différents quartiers ainsi que d’un centre d’accueil de jour. Voir l’article p. 12 de ce numéro
  2. Voir l’article de Monique et Marc Couillard, p. 23
  3. Voir p. 42.
  4. Voir p. 36
  5. Cf. article p. 12

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *