Le monde de l'édition basculera-t-il dans l'ère du soupçon généralisé ?

Le petit Pangram dénonce le roi nu

La dénon­cia­tion d’un usage mas­sif de l’intel­li­gence arti­fi­cielle dans l’écri­ture du roman évé­ne­ment de la ren­trée a ouvert la boîte de Pan­dore. La réa­lité de L’IA entre avec fra­cas dans les mai­sons et les prix lit­té­raires qui s’inter­rogent sur l’atti­tude à adop­ter.

Hier matin, un écri­vain en lice pour le Gon­court s’est réveillé la « boule au ventre ». La veille au soir, des inter­nautes avaient dépecé son roman, l’avaient passé au crible du détec­teur Pan­gram, et un ver­dict, «16% D’IA » - insuf­fi­sant pour tirer des conclu­sions, après véri­fi­ca­tion des étapes de rédac­tion anté­rieures - cou­rait déjà sur les réseaux. Voilà où en est la ren­trée lit­té­raire depuis le lundi 21 sep­tembre, quand un tweet alors signé « Balance ton Claude » a réussi en trois jours ce qu’aucun cri­tique n’avait osé : mon­trer, comme dans le conte d’Ander­sen, que le roi des prix de l’automne était «nu» , faire vaciller en trois jours le temple français de l’édi­tion, som­mer la chaîne du livre tout entière de se réin­ven­ter. Un coup signé d’un petit cénacle 2.0 de jeunes intel­lec­tuels, parmi les­quels Samuel Fitoussi, chro­ni­queur au Figaro.

Dans sa chute, Thé­ly­son Oré­lien aura du moins levé un tabou.

Cela res­semble bien au début d’une chasse aux sor­cières, chaque auteur deve­nant sus­pect. Le juge d’ins­truc­tion ? Pan­gram, réputé être le meilleur clas­si­fieur d’IA du mar­ché en affi­chant un taux de faux posi­tif de 1/24 000. « Va te faire foutre, Pan­gram!», a lancé Vir­gi­nie Des­pentes sur le pla­teau de « C ce soir». «Nous voilà dans l’air du soupçon géné­ra­lisé, et les écri­vains se voient som­més de mon­trer leurs papiers aux ânes qui braient en chœur : IA, IA », a écrit de son côté François-Henri Désérable, l’auteur d’un roman de la ren­trée, Le Palais.

Il fal­lait voir, sur les réseaux sociaux, les auteurs de la ren­trée sou­mettre d’eux-mêmes leurs cha­pitres à la machine et affi­cher le résul­tat, comme on brûle ses vais­seaux, pour conju­rer la cabale avant qu’elle ne les frappe. 

Notes Pangram de différents auteurs (parfois anxieux)

Ananda Devi, Chroniques d’un royaume perdu (Grasset) : 0 % généré / 100 % humain. next.ink

François-Henri Désérable, Le Palais : 0 % généré / 100 % humain. pages.flint.media

Autres romans de la sélection Goncourt disponibles en numérique au Québec (test Radio-Canada) : tous classés 100 % humains. indianexpress.com

Le Monde a soumis les premières pages d’une quinzaine d’autres romans de rentrée ainsi que cinq ouvrages anciens au style marqué : Pangram les a classés humains. actualitte.com

Next.ink a également fait tester par Pangram des extraits de Philippe Jaenada (L’Inconnue du quai de Javel), Amélie Nothomb (L’Adolescence du perroquet), Lucie Rico (Mais que fait le sang sur le pull de Jennifer ?). Le logiciel les a classés respectivement à 99 %, 100 % et 100 % d’origine humaine, à l’opposé des extraits du roman d’Orélien, auxquels il attribuait un score de 100 % de texte généré par IA. next.ink

Pour Orélien lui-même, les chiffres publiés sont :

• plusieurs passages (dont les deux premiers chapitres) : 100 % IA ou 91-100 % selon les extraits ;
• livre entier : 94 % (La Presse), environ 97 % (CheckNews/Libération sur Pangram), le cofondateur de Pangram indiquant environ 95 % de chances que le texte soit partiellement ou totalement généré par IA ;
• textes de l’auteur antérieurs à 2022 : 0 % IA.

Qui de l’homme, qui de la machine, a tenu la plume ? «C’est ter­rible de se retrou­ver dans cette sus­pi­cion géné­ra­li­sée. Thé­ly­son Oré­lien paie un peu pour tout le monde », glisse Ber­nard Com­ment, res­pon­sable de la lit­té­ra­ture française au Seuil.

Paie-t-il vrai­ment pour les autres ? Au-delà des pla­giats désor­mais avé­rés, l’écri­vain d’ori­gine haï­tienne est-il le bouc émis­saire d’un usage géné­ra­lisé de l’IA ? Le Figaro a sou­mis une ving­taine de romans de la ren­trée à Pan­gram (dans sa ver­sion 4) : des extraits d’abord, et l’inté­gra­lité du texte en cas de doute. L’écra­sante majo­rité res­sort « 100 % humain » sauf quelques-uns sous la barre des 40% et édi­tés par de grandes mai­sons.

Le roman de Thé­ly­son Oré­lien, C’était ça ou mou­rir, passé en inté­gra­lité, affiche quant à lui un taux de 94 % [de texte attribué à l’IA]. Si la boîte de Pan­dore vient de s’ouvrir en France, aux États-unis, la traque a débuté il y a quelques mois : Pan­gram a attri­bué 60 % d’IA à Dag­ger­mouth, romance dys­to­pique de H.M. Wolfe. En juillet, le pre­mier roman à suc­cès de Jerry Falade a été retiré par ses propres agents après des scores éle­vés.

Dans sa chute, Thé­ly­son Oré­lien aura du moins levé un tabou. « Cette his­toire immé­diate est mal­heu­reu­se­ment assez anec­do­tique, mais elle a le mérite de poin­ter la muta­tion anthro­po­lo­gique que vit l’écri­ture, aussi impor­tante que l’appa­ri­tion de l’impri­me­rie», ajoute Ber­nard Com­ment. Mais pourra-t-on lais­ser se réduire la lit­té­ra­ture à une recherche du moindre pour­cen­tage d’IA, quand la lau­réate du prix Nobel de lit­té­ra­ture Olga Tokarc­zuk a elle-même reconnu recou­rir à l’intel­li­gence arti­fi­cielle? « L’IA per­cute de manière très vio­lente toute une vision de la lit­té­ra­ture conçue comme un exer­cice soli­taire, dépen­dant à la fois de l’ins­pi­ra­tion, du tra­vail », ana­lyse Alexandre Gefen, direc­teur de recherche au CNRS. Alexandre Gefen redoute une «véri­table panique morale», et craint que les édi­teurs adoptent comme bouée de secours des clauses « sans aucune pos­si­bi­lité tech­nique réelle». Crainte exau­cée : les Édi­tions de l’obser­va­toire viennent d’inau­gu­rer un nou­veau label, «Sanc­tuaires», du nom de l’essai d’Abel Quen­tin qui plai­dait pour des lieux refuges où l’intel­li­gence ne concour­rait plus avec la machine.

« L’IA per­cute de manière très vio­lente toute une vision de la lit­té­ra­ture conçue comme un exer­cice soli­taire, dépen­dant à la fois de l’ins­pi­ra­tion, du tra­vail » Alexandre Gefen direc­teur de recherche au CNRS

Le pre­mier titre, Consonno de Gas­pard Koe­nig, paraî­tra le 1er octobre. « Pas de pro­duc­tion d’idées par l’IA, pas de texte non plus généré par elle, ni de recours à la machine pour amé­lio­rer son style. Ce serait sinon une défaite de la pen­sée », tranche Emma Sau­din, direc­trice lit­té­raire de la fic­tion, qui y voit un « pacte moral avant tout». Un jury lit­té­raire avait ouvert la voie. Dès sa pre­mière liste, celui des Deux Magots pro­cla­mait que l’IA «modi­fie la pater­nité et la nature de l’œuvre », ajou­tant : «La mani­pu­la­tion qui attri­bue à l’auteur les mots de la machine est dénuée de valeur ». En juillet, quand « Abel Quen­tin, membre du jury, nous a pro­posé de prendre les devants, quelques-uns y ont vu une simple “coquet­te­rie”. Mais le jury s’est engagé», confie le pré­sident Étienne de Mon­tety, par ailleurs direc­teur du Figaro lit­té­raire.

Au Renau­dot, qui « réflé­chit » au main­tien d’Oré­lien sur sa liste, le secré­taire du jury, Georges-oli­vier Châ­teau­rey­naud, prend acte : « La règle du jeu a changé, peut-être fon­da­men­ta­le­ment. La triche est désor­mais pos­sible. Nous sommes à l’orée d’une révo­lu­tion sans doute périlleuse dans le domaine de l’écrit. » Du côté du Gon­court, qui a retiré C’était ça ou mou­rir de sa liste ce ven­dredi, on assure qu’il est impos­sible de véri­fier « si les deux cent cin­quante livres reçus chaque été ont été géné­rés par IA ». Ce tra­vail « sera celui des édi­teurs», a indi­qué au Figaro le pré­sident Phi­lippe Clau­del.

Un label « 100 % humain » est-il seule­ment pos­sible? Il ras­sure, mais sou­lève plus de ques­tions qu’il n’en résout. « Ce sera dif­fi­cile, à moins de mettre des trai­te­ments de texte très spé­ci­fique sur les ordi­na­teurs», pré­vient Alexandre Gefen. D’autant que les labo­ra­toires d’IA tra­vaillent à éli­mi­ner les tics de lan­gage qui tra­hissent aujourd’hui leurs modèles, et des « huma­ni­seurs » per­mettent déjà, indique le cher­cheur, de « pas­ser entre les trous de la pas­soire ». Une échap­pa­toire pos­sible ? Le fili­grane invi­sible qu’Anthro­pic glisse depuis août dans les textes pro­duits par Claude, un biais sta­tis­tique dans le choix des mots, lisible seule­ment avec la clé de l’entre­prise. [bof, lire... La méthode d’Anthropic pour répérer les textes produits par l’intelligence artificielle : un processus fragile ?]

Où com­mence l’œuvre arti­fi­cielle? Quand la plu­part des rédac­teurs consultent la machine comme un super-dic­tion­naire des syno­nymes, et que la moindre recherche en ligne livre aujourd’hui une syn­thèse géné­rée? « Il fau­drait écrire sur des car­nets ! », iro­nise Alexandre Gefen. Le direc­teur du CNRS, qui déplore «la solu­tion para­noïaque» d’une traque à l’IA, plaide pour « juger le résul­tat d’une œuvre plu­tôt que de la soupçon­ner en per­ma­nence», d’autant que « rien ne dit que la manière d’écrire de l’IA ne nous influence pas déjà ». Les prix, du reste, ont tou­jours cou­ronné une œuvre et non un pro­cédé, et bien des cri­tiques et des lec­teurs main­tiennent avoir aimé le livre de Thé­ly­son Oré­lien. Rien d’éton­nant à cela. L’IA n’est-elle pas entraî­née par ren­for­ce­ment à par­tir de retours humains (RLHF), à par­tir de ce qui plaît aux lec­teurs, soit la cadence ter­naire, les phrases courtes, les méta­phores en cas­cade, ce qui a été repro­ché in fine au roman incri­miné ?

[...]

Source : Le Figaro

Voir aussi

La forteresse littéraire a tremblé prise d’assaut par la piétaille des réseaux sociaux (Affaire Thélyson Orélien)

Quand les livres deviennent innombrables, à quoi servent encore les éditeurs ?