« Les périls de l’IA : du (véritable) Skynet au (pas si intelligent) bot informatique » – Compte rendu
par Eugénie Martin

Si l’on insiste beaucoup sur les prodigieuses avancées permises par l’intelligence artificielle (IA), il est important d’en interroger les limites éthiques. C’est l’objectif que s’est fixé l’une des sessions Talking Sticks du congrès de l’IFLA 2022, organisée par la section IT et intitulée « The Perils of AI: From the (Real) Skynet to the (not so) Intelligent Bot« . Derrière ce titre énigmatique, ce sont les risques éventuels de l’IA en bibliothèque que questionnait ce temps d’échange, mené par Edmund Balnaves, directeur et fondateur de Prosentient Systems.

L’IA : des questions éthiques pour les bibliothèques

Dans divers domaines, on commence à observer des usages dévoyés de l’IA. Skynet en Chine, croisant les données personnelles des citoyens au profit d’une surveillance accrue, à la mise en place, dans plusieurs pays, d’algorithmes – en l’occurrence non exempts d’erreurs – censés détecter les fraudes à l’aide sociale, les dérives se multiplient et peuvent conduire à des situations dramatiques.

Certes, les bibliothèques ne sont pas confrontées à des données aussi sensibles et les problématiques sont loin d’être comparables. Il leur faudra cependant se positionner rapidement sur ces questions : de fait, avec la massification des données, de nouvelles problématiques se font jour. Ainsi, les jeux de données que constituent nos catalogues comportent de très nombreux biais (sous-représentation des femmes ou des minorités par exemple), ce qui pose d’évidents problèmes pour tout travail de recherche reposant sur une fouille de ces données. Autre risque : celui de voir se développer, dans les années à venir, une recherche faussée ne prenant plus appui sur des données originales mais compilant des synthèses de données.

Formation aux usages de l’IA : un enjeu primordial pour les bibliothèques

À l’aube de cette révolution technologique à venir, plusieurs pistes d’évolution se dessinent pour les bibliothèques : s’il est crucial de développer les infrastructures d’IA, il ne faut guère se cantonner aux seuls outils. Les bibliothèques ont un rôle déterminant à jouer dans la formation des personnels comme des usagers.

L’intelligence artificielle leur offre l’opportunité de travailler main dans la main avec les chercheurs spécialistes des humanités numériques et la communauté académique au sens large, qu’il s’agit de convaincre des extraordinaires perspectives de recherche qu’offrent ces outils. Peut-être conviendra-t-il de réfléchir à la mise en place, au sein des bibliothèques, d’un comité d’éthique relatif à ces questions – sur le modèle des Comités d’Éthique de la Recherche présents dans les universités.

Eugénie Martin est élève conservatrice à l’Enssib (Promotion DCB 31 – Christine de Pizan).

Pour aller plus loin

Quaderni. 105 , L'intelligence artificielle : raison et magie ;

Fondation Maison des sciences de l'homme, DL 2022

Un dossier consacré à l’intelligence artificielle, qui renvoie à la manière dont les machines algorithmiques ordonnent et régulent ce qui est susceptible d’être capté et traduit en données. Ses applications sont innombrables mais des zones d’ombre persistent sur la nature de l’interaction homme-machine.

681.7 QUA

Intelligence artificielle : questions éthiques et enjeux socioéconomiques ;

L'Harmattan, C 2022

L’intelligence artificielle remet en question l’organisation sociale, les pratiques professionnelles ou encore le rapport à l’autre. Les contributeurs questionnent le statut et les attributs des applications de l’IA dans tous les domaines de la vie, rappelant l’importance des questions éthiques générées par la robotisation de la vie.

681.7 INT

L’intelligence artificielle est-elle vraiment intelligente ?