Modèle, prompt, hallucination : décryptage. D’après un entretien avec Romain Boonen

« Peux-tu me réécrire ce mail en vouvoyant ? », « Rédige une fiche d’activité pour un atelier », « Que donnerait ma chambre peinte en bleu ? » Voici quelques injonctions que nous sommes nombreux à formuler occasionnellement ou quotidiennement à notre robot conversationnel d’intelligence artificielle générative via notre navigateur. Une fois formulée, la requête est envoyée sur un serveur, qui mobilise sa puissance de calcul pour nous renvoyer texte, photo ou musique. Comment ça marche ?À chaque étape, le modèle évalue quelle est la suite la plus probable à ce qui précède. Prédire le mot suivant, c’est un peu ce que faisaient déjà les correcteurs de nos téléphones. Avec l’IA, l’anticipation en fonction du contexte ne porte pas sur quelques mots, mais sur des motifs – ou patterns – appris à partir de millions d’exemples, et capables de structurer des textes entiers, des images, de la musique, de la vidéo…

La tentation de la norme

Cette impression d’évidence dans les textes produits par l’IA générative nous bluffe autant qu’elle nous agace : le sentiment d’une standardisation des réponses, d’un écrasement des singularités. Nous, humains dotés d’une intelligence humaine et d’une conscience réflexive, sommes-nous réellement si différents ? De L’Homme neuronal de Jean-Pierre Changeux (1983) à Determined de Robert Sapolsky (2023), les neurobiologistes interrogent notre libre arbitre. Dans quelle mesure le contexte lié à notre milieu d’origine, nos hormones, les livres que nous avons lus, la météo, ou notre taux de glucose ne façonnent-ils pas nos pensées à tel point que notre libre arbitre ne serait qu’une illusion ? N’y a-t-il pas des effets d’entraînement, des thématiques qui s’imposent et qui, bien avant l’arrivée de l’IA, pesaient déjà sur la diversité et la singularité des propositions artistiques ? L’IA ne nous tend-elle pas un miroir sur nos propres travers, notre tendance à emprunter toujours les mêmes autoroutes de pensée ? Pour répondre à toutes ces questions et bien d’autres, nous nous sommes entretenue  avec Romain Boonen, formateur et consultant en IA au sein d’Empowork Culture, un laboratoire d’innovation qui accompagne la transformation de l’emploi dans les industries culturelles et créatives. Pour lui, « l’IA fonctionne avant tout comme un miroir de l’intention de l’utilisateur. Si l’on cherche à aller vite, à produire sans creuser, l’outil renverra effectivement quelque chose de standardisé. Mais ce n’est pas une fatalité. Ce risque tient moins à la machine qu’à l’usage que l’on en fait ».

Hallucinations : quand la machine s’emballe

La standardisation n’est pas le seul risque dans l’usage de l’IA, un autre est la systématisation des fake news. Comme lorsque nous faisons un lapsus, l’IA a ses ratés, elle hallucine. Une hallucination survient lorsque le modèle produit une information fausse ou inventée, parce qu’il calcule qu’une réponse plausible est statistiquement plus probable qu’une absence de réponse. Plutôt que de dire « je ne sais pas », il complète. À petite échelle, cela peut sembler anodin. Mais l’erreur initiale peut servir de base au calcul suivant. C’est là que la mécanique s’emballe : l’information fausse structure progressivement tout le raisonnement en aval. Dans une image, on verra un bras articulé de manière improbable ; dans un texte, cela donne des informations ou des citations inventées. Pour Romain Boonen, « un excellent moyen de réduire les hallucinations, c’est d’ancrer l’IA dans un contexte qu’on a défini. Plus on est clair sur ce qu’on attend, plus on fournit un contexte précis sur la situation, moins l’IA va halluciner. Par ailleurs, il y a une règle simple : on ne cite jamais une IA comme source, sauf si elle a elle-même cité une source, et qu’on l’a nous-mêmes vérifiée ».

L’art du prompting

Mais alors, comment utiliser l’outil dans notre secteur ? « Le champ de la danse recouvre au moins deux modes de travail distincts, la réalité créative et la réalité administrative des organisations. Cela répond à des enjeux différents ; on utilisera donc les outils différemment. Néanmoins, qu’il s’agisse de création, de production, de diffusion ou d’élaboration de budget, une méthodologie fonctionne toujours : la première étape consiste à poser une intention claire. »Quel est mon objectif ? Comment prendre de la hauteur par rapport à l’opérationnel ? Il ne s’agit pas seulement de « remplir un dossier d’aide à la création pour la FWB » ou d’« envoyer un communiqué de presse », ni même de « faire un plan de com », mais peut-être d’« élargir mes publics » ou de « gagner en robustesse en diversifiant mes sources de financement ». Une fois l’objectif clarifié, on peut demander à l’IA : « pose-moi des questions pour préciser mes attentes et le contexte ». C’est une manière d’être accompagné dans la formulation et d’identifier des angles morts. On peut ensuite entrer dans ce qu’on appelle le meta-prompting : demander à l’IA de générer les instructions d’un assistant ou un prompt de recherche approfondie, toujours sur la base du contexte fourni. On s’appuie ainsi sur ses forces, y compris sa capacité à formuler de bons prompts.

Énergie, données, souveraineté

Utiliser l’IA, c’est aussi prendre nos responsabilités face aux enjeux écologiques. Une requête moyenne (relire l’orthographe d’une page A4) consomme en moyenne 0,0003 kWh, cela équivaut à chauffer quatre-vingts tasses de thé avec une bouilloire électrique, ou à utiliser son sèche-cheveux 0,5 seconde. Cela n’empêche que c’est dix fois plus qu’une recherche sur google et, dans un contexte de crise climatique où la diminution de la consommation électrique est une nécessité, la généralisation de l’IA pour de simples demandes d’information semble difficilement soutenable à grande échelle. Comment agir, à notre échelle, sur le coût énergétique de nos requêtes ? Clarifier l’objectif ; donner le contexte en une fois plutôt que par fragments ; demander une réponse courte d’abord, puis développer en précisant clairement les contraintes de format, de longueur et de ton, afin d’éviter les régénérations (« refais », « reformule ») ; et, enfin, choisir un modèle dimensionné selon les besoins. Côté serveur, notre marge de manœuvre individuelle n’est pas grande, mais il existe des alternatives. Ainsi, l’entreprise suisse Infomaniak, par exemple, présente Euria comme une IA alimentée par de l’énergie renouvelable, dont les eaux de refroidissements du data center sont réutilisées pour les logements environnants. Pour Romain Boonen, la question se joue à plusieurs échelles. « À moyen et à long terme, il deviendra important de garder le contrôle sur nos propres IA, plutôt que de dépendre systématiquement de solutions externes. Une réponse à cette voracité énergétique pourrait être de faire tourner des modèles en local, sur nos machines, tout en maîtrisant nos données. » Choisir des IA européennes ou des IA locales est un enjeu majeur de souveraineté, des points de vue écologique, mais aussi géopolitique.

Droit d’auteur : protéger, partager ou participer ?

La question des infrastructures ouvre celle des données. Sur quoi les modèles sont-ils entraînés ? Qui décide de ce qui entre – ou non – dans ces ensembles massifs d’images, de textes, de sons ? Dans le champ artistique, le débat se cristallise autour du droit d’auteur. Les artistes doivent-ils disposer d’un droit d’opposition à l’utilisation de leurs œuvres pour entraîner des modèles ? C’est la position dite de l’opt-out, défendue notamment par la SACD. Mais le débat ne se limite pas à cette posture défensive. « Certains, comme Serge Hoffman, coordinateur pédagogique de la section des arts numériques de La Cambre, veulent au contraire pouvoir bénéficier d’un opt-in : forcer les laboratoires à s’entraîner sur leurs données, pour que leurs œuvres participent à une forme de “ Zeitgeist ”, c’est-à-dire à façonner l’imaginaire collectif de leur époque. Il y a des positions plus radicales encore, comme celle de l’illustrateur Ilan Manouach, qui rejette le cadre même dans lequel s’inscrit ce débat (droits d’auteur, redevances, consentement individuel) et défend la propriété collective de l’IA comme infrastructure publique. » Le pouvoir des laboratoires d’invisibiliser des pans entiers de la culture est immense. Imaginons qu’un dictateur au teint orange décrète demain que les IA américaines doivent exclure de leur entraînement des documents traitant de dysphorie de genre ou de crise climatique… La question dépasse la seule protection des œuvres : elle engage la manière dont se construit la mémoire culturelle commune.

Les forces du secteur culturel

Face aux transformations rapides que l’intelligence artificielle impose – techniques, économiques, organisationnelles –, la tentation pourrait être de rester sur l’autre rive. Pour Romain Boonen, ce serait une erreur. « Le secteur culturel a un rôle fondamental à jouer. Car ce que l’IA modifie en profondeur, ce n’est pas seulement la production de contenu. C’est la nature même du travail. » Travailler avec ces outils ne consiste pas à les laisser agir seuls. Cela suppose de coordonner, d’orienter, d’arbitrer. Or le secteur culturel fonctionne depuis longtemps dans cette logique. Les équipes y sont souvent réduites, polyvalentes, capables de passer de la création à l’administration, de la vision artistique à la gestion budgétaire. « Cette culture du “couteau suisse”, souvent vécue comme une contrainte faute de moyens, pourrait devenir une force et influencer d’autres secteurs dans la manière d’organiser le travail humain-IA. Si l’IA déplace le travail vers la stratégie et l’arbitrage, alors la question du goût et de la vision devient centrale. » Dans ce contexte, la question n’est peut-être pas de savoir si l’IA va standardiser la culture, mais comment la culture, en s’emparant de l’outil, peut continuer d’interroger les cadres et de déplacer les normes.