Contre-atlas de l’intelligence artificielle : Agir par la culture

La chercheuse Kate Crawford, spécialisée dans les implications sociales et politiques de l’intelligence artificielle (IA pour les intimes), arrive à point nommé avec son Contre-atlas de l’intelligence artificielle. En effet, la mise à disposition publique du système de génération de texte Chat GPT fin 2022 est venue hystériser le débat à coup d’imprécations / prédictions lancées la plupart du temps par les lobbys des industries de l’IA. « L’IA va détruire la moitié des emplois », « L’IA va dépasser l’intelligence humaine », « L’IA va finir par devenir autonome et se retourner contre nous » entend-on constamment… Crawford vient casser l’ambiance et l’affirme d’entrée de jeu : l’IA n’est « ni artificielle, ni intelligente, et encore moins autonome ». Au fil des chapitres de son essai-enquête au langage limpide et aux trames palpitantes, elle replace d’abord l’IA dans toute sa matérialité industrielle, de l’extraction de terres rares nécessaires à la fabrication des appareils et data centers à leur consommation colossale d’énergie. Dans tous ses besoins en humains ensuite, à la manière du sociologue Antonio Casilli, qui montre à quel point les IA sont « fabriquées à la main », par des milliers de tacheron·nes du clic payé·es une misère pour entrainer les algorithmes, superviser leur bonne marche ou vérifier qu’ils fonctionnent. Mais elle resitue aussi les systèmes IA dans tous leurs biais et absence d’éthique. Et ce, non seulement concernant l’exploitation des données, mais aussi par leur classification via un étiquetage qui renforce préjugés et discriminations. On est très loin de la « neutralité technologique » et de la rationalité juste prônée par ses promoteurs, convaincus que tout est permis pour innover. Un livre éblouissant qui permet d’une part de mesurer les dégâts sociaux et environnementaux de l’industrie de l’IA, et d’autre part de politiser l’intelligence artificielle en élargissant la définition qui en est habituellement faite. Pour la chercheuse australienne en effet, le terme d’IA recouvre non seulement une technique, mais aussi une idée, une infrastructure, une industrie, une idéologie, un reflet des rapports de domination et même une forme d’exercice du pouvoir. Crawford montre avec précision comment les systèmes d’IA sont d’abord prévus et construits pour servir des intérêts dominants et réaliser des profits. Indispensable pour sortir du vertige techniciste et se poser avec l’autrice la question qui, face à l’IA comme face à toute technique, permet de retrouver un espace de réflexion : « Votre outil donne-t-il plus de pouvoir aux plus puissants ? »