« L’IA n’est ni artificielle ni intelligente !... »

C’est une erreur ! Je n’aurais jamais dû vouloir lire cet ouvrage !

Lorsqu’un livre débute par « J’affirme, dans cet essai, que l’IA n’est ni artificielle ni intelligente. Au contraire, l’intelligence artificielle est à la fois incarnée et matérielle, faite de ressources naturelles, de carburant, de main-d’œuvre humaine, d’infrastructures, de logistique, d’histoires et de classifications… » le « J’affirme que… » met tout de suite mal à l’aise.

Dans ce livre, Kate Crawford fait le procès de l’Intelligence Artificielle, mais un procès à charge uniquement, qui est en fait le procès de l’usage que l’on fait de l’IA.

Née en 1976 en Australie, Kate Crawford est spécialiste des implications sociales et politiques de l’intelligence artificielle. Fondatrice du AI Now Institute à l’université de New York, elle inaugure en 2019 la chaire IA et Justice sociale à l’École normale supérieure de Paris.

Au fil des chapitres, elle va montrer l’asservissement des hommes sous le joug des machines – phénomène connu depuis le XIXe siècle – où, aujourd’hui, des travailleurs à la pièce payés quelques centimes pour effectuer des micro-tâches numériques pour que les systèmes de données puissent paraître plus intelligents qu’ils ne le sont. Avec pour exemple des entrepôts Amazon où des employés doivent suivre le rythme des cadences algorithmiques, ou des abattoirs de Chicago, avec leurs chaînes où on pratique le découpage des carcasses d’animaux qu’on prépare à la consommation.

Elle expliquera la façon dont les systèmes d’IA renforcent la surveillance et le contrôle pour les patrons.

Elle exposera comment les données numériques – dont des données personnelles, potentiellement préjudiciables – sont collectées, assemblées et utilisées pour produire des modèles d’IA, jusqu’à constituer de gigantesques ensembles de données remplis de selfies, de gestes de la main, de gens au volant, de bébés qui pleurent, de conversations de groupes de discussions, etc. qui servent tous à améliorer les algorithmes qui exécutent des fonctions comme la reconnaissance faciale, la linguistique prédictive, la détection d’objet…

Elle montrera comment les systèmes actuels utilisent des étiquettes pour définir l’identité humaine, généralement sur la base de catégories raciales essentialisées et d’évaluations problématiques de la personnalité et de la solvabilité.

Enfin, elle développera comment les systèmes d’IA deviennent l’instrument du pouvoir étatique. Comment la dimension militaire passée et présente de l’IA a façonné les pratiques de surveillance, d’extraction des données et d’évaluation du risque que nous observons aujourd’hui et comment elle fonctionne en tant que structure du pouvoir qui combine infrastructure, capital et travail.

Mais rien sur les applications de l'intelligence artificielle en médecine : rien sur la reconnaissance d'images pour le diagnostic des cancers et des maladies, rien sur la médecine de précision pour les maladies cardiovasculaires et les cancers, rien sur la conception de médicaments et l’amélioration de la prestation des soins de santé, etc…

Mais rien sur les interventions en milieux hostiles ou inaccessibles : rien sur les explorations et interventions dans les grandes profondeurs sous-marines, rien sur les manipulations en milieux corrosifs ou asphyxiants, rien sur les explorations ou futures exploitations extraterrestres (Mars, la Lune…), etc…

Madame Crawford traite de l’aspect politique et social de l’IA, elle conclue en précisant que « L’intelligence artificielle est une idée, une infrastructure, une industrie, une forme d’exercice du pouvoir, et une façon de voir ; c’est aussi la manifestation d’un capital très organisé, soutenu par de vastes systèmes d’extraction et de logistique, avec des chaînes d’approvisionnement qui enveloppent toute la planète. […] L’intelligence artificielle, c’est la politique par d’autres moyens, même si on la reconnaît rarement comme telle. Cette politique est menée par les Grandes Maisons d’IA, soit la demi-douzaine d’entreprises qui dominent la computation planétaire. »

Dans ce sens, elle a probablement raison. Mais, je me répète, ce qu’elle condamne c’est l’usage que l’on fait de l’IA qui, comme toujours peut revêtir des aspects regrettables. Condamne-t-on définitivement l’automobile parce qu’un conducteur irresponsable provoque un accident scandaleusement grave avec son véhicule, sous l’emprise de la cocaïne ? Peut-être que si son véhicule avait été équipé d’IA, celle-ci aurait évité le déport de trajectoire… voire le démarrage du véhicule.

Attaché à l’aspect technique des choses, mon sentiment est que l’auteure s’est trompée d’ennemi. Comme très souvent, l’ennemi n’est pas le progrès, c’est l’Homme.