Comment un monstre de Lovecraft est devenu un symbole du côté obscur des IA comme ChatGPT

Mème pas peur Un mème représentant un Shoggoth, monstre issu de l’univers de l’écrivain H. P. Lovecraft, circule de plus en plus parmi les spécialistes des IA tels que ChatGPT. France 24 a interrogé plusieurs experts sur le sens de cette représentation, issue de l'imaginaire de l'un des plus grands maîtres de l'horreur du début du XXe siècle, utilisée pour alerter sur les chatbots. Le Shoggoth est une créature inventée par H. P. Lovecraft et aujourd'hui utilisée pour créer un mème autour des IA comme ChatGPT. En matière d’IA, ne dites pas "C’est kafkaïen" mais plutôt "C’est lovecraftien". Howard Phillips Lovecraft, le maître de la littérature horrifique du début du XXe siècle, se retrouve mêlé au débat sur les avantages et les risques des robots conversationnels tels que ChatGPT, a découvert le quotidien américain The New York Times, dans un article publié mardi 30 mai. Le Shoggoth, créature difforme du panthéon des déités lovecraftiennes, a été invoqué par une partie de la communauté des chercheurs en intelligence artificielle pour symboliser les risques liés à une mauvaise utilisation des ChatGPT et compagnie. Un monstre aux 1 001 tentacules Ils ont fait de ce monstre aux 1 001 tentacules la pièce maîtresse d’un mème – détournements en série d’une image propagés sur Internet – apparu d’abord sous la plume électronique de "Tetraspace" sur Twitter en décembre 2022, un mois après la sortie de ChatGPT. Ce visuel représente un blob difforme, crayonné à la va-vite et censé être le Shoggoth, qui tient à bout de tentacules une sorte de masque en forme de smiley. L’image a rapidement fait le tour des forums spécialisés dans la recherche sur l’IA et a largement été reprise sur les réseaux sociaux. Preuve de son succès : des tote-bags (sacs fourre-tout) à l’effigie du "ChatGPT Shoggoth" ont été créés par des internautes, tandis que d’autres ont élaboré des stickers à la gloire de ce monstre. Le mème a même réussi à sortir du cercle plutôt réduit des experts en IA lorsqu’Elon Musk, le controversé patron de Twitter, a retweeté une version de cette image à ses 141 millions d’abonnés fin février. À l’origine, l'utilisation du Shoggoth était censée souligner que l'agent conversationnel ChatGPT "représente quelque chose qui pense d’une manière que les humains ne comprennent pas et qui est totalement différente de la façon dont nous réfléchissons", a souligné "Tetraspace", interrogé par le New York Times. Le smiley représenterait les "bricolages entrepris pour rendre ces systèmes acceptables pour l’Homme", précise Sébastien Konieczny, directeur de recherche au CNRS en intelligence artificielle. Mais comme tout mème, le monstre a échappé à son créateur et il semble être devenu le symbole "d’une révolte consciente ou inconsciente d’une partie des chercheurs dans ce domaine contre les acteurs de l’économie de l’IA [comme OpenAI, Microsoft, Google, Facebook, NDLR]", estime Nicolas Sabouret, professeur en informatique et spécialiste de l'intelligence artificielle à l'université Paris-Saclay. Le masque du smiley La popularité de la créature lovecraftienne comme "métaphore de la manière dont ces modèles de langage fonctionnent" tient au fait que l’image possède plusieurs niveaux de lecture possible, souligne le New York Times. Le Shoggoth devient ainsi une sorte de pot-pourri des critiques qui peuvent être adressées à ces IA et à leurs promoteurs. Pour la plupart des experts interrogés par France 24, ChatGPT et consorts (Bard de Google ou encore Ernie Bot du Chinois Baidu) peuvent être comparés à un monstre informe car "on n’a pas toujours conscience de tout ce qu’il y a dedans, et certaines choses qui s’y trouvent sont très laides et effrayantes", résume Maria Liakata, professeure en traitement automatique du langage à l’Institut Alan Turing de Londres. Ces IA n’ont en effet pas été entraînées "uniquement avec Wikipedia ou des informations fiables et sourcées de médias sérieux. Ils ont eu accès à tout Internet, qui contient aussi le pire de l’humanité", souligne Sébastien Konieczny. Sans supervision, ces chatbots peuvent donc "générer des contenus très inappropriés", note Maria Liakata. C’est ainsi que Tay, l’agent conversationnel lancé par Microsoft sur Twitter en 2016, avait rapidement sombré dans le racisme le plus débridé. C’est là qu’intervient le second élément du mème : le smiley. Dans la plupart des itérations de ce visuel, le visage souriant est accompagné de l’acronyme RLHF, qui signifie "Reinforcement learning from human feedback" ("apprentissage par renforcement humain"). Cette méthode signifie que des êtres faits de chair et de sang vont intervenir pour polir la base de données dans laquelle l’algorithme fait de 0 et de 1 puise pour créer ses réponses. "C’est une manière de réguler le comportement de ces modèles afin de prévenir les dérives dans certains scénarios", explique Maria Liakata. Tout le principe de ce visuel consiste à rappeler que ce smiley "ne fait que masquer le potentiel problème avec ces modèles de langage, mais ne l’élimine pas", précise David Krueger, expert en intelligence artificielle à l'université de Cambridge. Autrement dit, il suffit de gratter un peu sous la surface du smiley pour retomber sur le monstre capable de se transformer, par exemple, en suppôt du suprémacisme blanc. Hypocrisie des acteurs économiques de l'IA Pour d’autres, ce mème lovecraftien désigne plutôt "l’hypocrisie des grands acteurs industriels de l'IA", affirme Nicolas Sabouret. Il y a, d’après lui, la version propre de ChatGPT mise en avant par ces "Gafam de l’IA", qui est représentée par le masque. Et "le monstre, ce sont ces sociétés qui exploitent des travailleurs de l’ombre pour rendre ces modèles acceptables", précise le chercheur. Dans cette interprétation, le Shoggoth permet de rappeler le coût humain de la ruée vers l’eldorado de l’IA. "L’apprentissage par renforcement humain, ce sont des Africains, des Indiens qui travaillent à la chaîne et sont mal payés pour peaufiner ces modèles", souligne Nicolas Sabouret. Et le terrible secret des larges modèles de langage est que "sans cette intervention humaine, ChatGPT n’existerait pas car on ne sait pas encore faire ce travail automatiquement", affirme cet expert. Cette image permettrait aussi de dénoncer une autre hypocrisie des grands groupes, soucieux de se montrer sous leur meilleur jour alors "qu’ils ont pillé de manière monstrueuse la vie privée des internautes en construisant la base de données de leurs modèles", note Sébastien Konieczny. "Ils se font passer pour des gentils alors qu’ils en sont loin et s’assoient sur le consentement de créateurs de contenus sur Internet", précise Nicolas Sabouret. Mais il ne faut pas non plus faire dire tout et n’importe quoi à ce mème. "L’un des problèmes avec ce genre de visuel est qu’il est vague et peut donc aboutir à des interprétations erronées", regrette Maria Liakata. Le Shoggoth avec le smiley pourrait ainsi aisément donner l’impression que ChatGPT serait un monstre "doté de sa propre volonté qui manigance contre nous en cachant ses véritables intentions derrière un masque, ce qui serait trompeur sur les capacités de ces modèles", note David Krueger. Ce mème lovecraftien ne désigne donc pas un supermonstre prêt à ne faire qu’une bouchée de l’humanité. Mais un danger d’apparence plus anodine. Et qui, si on n'y prend garde, n’est pas forcément moins effrayant.