Contre-atlas de l'IA - Kate Crawford

Les récentes percées en matière d’IA grand public ont ravivé les rêves et les cauchemars sur l’avenir de cette technologie. Jusqu’ici disséminées dans des fonctionnalités diverses, travaillant en arrière-plan, aucune ne s'était approchée autant de notre cognition avec une efficacité aussi redoutable que les productions d'OpenAI : GPT, Midjourney, Dall-e, et bientôt la suite Office de avec la récente annonce de Microsoft 365 Copilot.

La barrière d’entrée étant fortement diminuée, au point d'être utilisable par n'importe qui sans bagage technique, les IA génératives comme ChatGPT ou la nouvelle version de Bing que nous voyons à l’œuvre se présentent à nous avec la particularité inédite de parler notre langage, et de suivre une conversation dans le cadre d'un contexte.

En parlant comme on le ferait avec un congénère humain à ChatGPT, Midjourney ou Dall-e, nous assistons à un paradoxe : la disparition de la machine comme automate identifiable, en même temps que son omniprésence sous une forme plus naturelle. Elle se fond totalement dans notre environnement jusqu'à se faire oublier à la manière d’un pod Alexa ou Google Home alors qu'elle n'a jamais été aussi présente physiquement : en témoignent les centres de données et terminaux sans cesse plus nombreux.

C'est justement l'objet de l'ouvrage de Kate Crawford. La chercheuse de Microsoft nous présente un livre dont l'objectif principal est de mettre en lumière la réalité matérielle de l'IA. Dans « Contre-atlas de l'Intelligence Artificielle », L’IA n’est pas qu’algorithmie, science des données ou ingénierie mais surtout consommation énergétique, rapport de force politique, et industrie lourde.

L’auteur insiste également sur la place des nouveaux maîtres de l’IA, appuyant sur le rôle particulier de ces acteurs. En effet, contrairement à d’autres industries dans lesquelles l’utilisateur final et le concepteur n’interagissent que pour effectuer des transactions ponctuelles, l’IA transforme cette relation en flux continu qui alimente les concepteurs en précieuses données.

« Même si un ensemble de données reste publiquement accessible, la méta-valeur des données – le modèle qu’elles créent – est entre des mains privées »

En suivant le chemin de la data de sa production à son « raffinement » en passant par sa collecte massive, l’auteure met en relief tout au long du livre la situation quasi-monopolistique des infrastructures et technologies d’IA telle qu’elle est aujourd’hui et surtout des sets de données indispensables à l’entraînement des modèles d’Intelligence artificielle les plus performants.

Cette maîtrise par le haut de la quasi-totalité des services utilisant de l’intelligence artificielle rappelle également l’état du marché global des services numériques, pour lesquels on retrouve à peu de choses près les mêmes noms et acteurs. Elle y mentionnera par exemple le procès anti-trust contre IBM en 1969, et l’idée à la fois curieuse et redoutable de l’entreprise d’utiliser le contenu textuel généré par le procès pour entraîner les modèles d’IA de l’époque.

L’impact écologique des centres de données sur lesquels l’IA s’appuie pour fonctionner figure aussi parmi les principaux thèmes du livre. Ici, le ton accusateur laissant peu de place à une alternative dresse un portrait destructeur et parfois inutilement coûteux de l’IA et des technologies dont son existence dépend.

« OpenAI estime que, depuis 2012, la puissance de calcul utilisée pour former un seul modèle d’IA est chaque année multipliée par dix, parce que les concepteurs « trouvent toujours des moyens d’utiliser plus de puces en parallèle et sont prêts à en payer le coût économique ». Quand on ne pense qu’en termes de coût économique, on voit moins le prix local et environnemental des cycles de computation utilisés pour renforcer l’efficacité. La tendance au « maximalisme computationnel » a un profond impact écologique. »

Kate Crawford fait le lien entre écologie et l’Histoire de l’industrie de façon générale et place l’IA comme un aboutissement d’une longue évolution de la place de la machine. Faisant quelques détours historiques et citant par exemple les travaux de Lewis Mumford, la place de l’employé dans processus de production et les innombrables petites mains anonymes derrière la machine sont aussi mis en valeur.

« La façon dont les données sont comprises, saisies, classées et nommées est fondamentalement un acte de création et d’appropriation du monde »

De nombreux autres thèmes seront abordés au cours de l’ouvrage, mêlant histoire, économie, technologie et politique. Comme fil conducteur, l’analyse des rapports de pouvoir que l’IA accentue.

Le ton du livre s’écarte rapidement de la simple analyse historique et technique pour proposer une lecture pamphlétaire de l’évolution technologique et sa relation avec les différentes forces économiques et politiques ayant traversé l’Histoire.

Le parti pris par Kate Crawford sur plusieurs sujets qu’ils soient techniques ou moraux est ouvertement assumé et parfois radical, mais chacun devrait y trouver des informations intéressantes et un regard novateur sur l’IA en tant que phénomène global plutôt qu’en tant que technologie.