samedi 4 mars 2023

Universités et publications — ChatGPT fait peur aux chercheurs

Le rédacteur en chef de la revue Science, Holden Thorp (ci-contre), a rappelé que la prestigieuse revue scientifique a décidé « d’interdire l’utilisation de ChatGPT pour la rédaction d’études » publiées par le périodique.

Lors d’une conférence de presse, le rédacteur en chef de la revue Science, Holden Thorp, a croisé le fer avec la responsable de l’éthique de l’intelligence artificielle (IA) chez IBM, Francesca Rossi.

« Nous avons pris la décision fin janvier d’interdire l’utilisation de ChatGPT pour la rédaction d’études que nous publions, a rappelé M. Thorp. Il y a 20 ans, nous n’avons pas réagi quand Photoshop a permis de modifier des photos de manière réaliste. Résultat, maintenant, nous passons beaucoup de temps à arbitrer entre des chercheurs qui s’accusent de manipulation d’images. Nous avons décidé d’être plus prudents avec l’IA. »

De son côté, Mme Rossi, qui dirige l’Association pour l’avancement de l’intelligence artificielle, a défendu sa décision de permettre aux revues de cette association d’accepter l’utilisation de ChatGPT. « Il vaut mieux que ce soit transparent, a dit Mme Rossi. De toute façon, bientôt ce sera difficile à détecter. Nous avons tracé la limite à l’inclusion de ChatGPT comme coauteur. »

Car Nature révélait fin janvier que quatre études publiées ce mois-là nommaient le logiciel comme coauteur : deux études américaines sur l’utilisation de ChatGPT dans les écoles de médecine et de sciences infirmières, une revue de littérature hongkongaise sur l’utilisation d’un immunosuppresseur pour accroître la longévité humaine, et une étude de neurobiologistes sur la capacité de ChatGPT à écrire sur lui-même.

Pour le moment, ChatGPT ne permet pas de produire une publication scientifique parce que le logiciel ne donne pas ses sources. Mais Microsoft travaille justement à une version qui les fournira, selon Mme Rossi.

En marge de la conférence de presse, à la question de savoir si une version avec sources de ChatGPT pourrait produire la recension de la littérature scientifique qui forme généralement la première section d’une étude rapportant des résultats expérimentaux, M. Thorp a répondu : « Je ne vois pas ce qui l’empêcherait. Mais c’est très peu souhaitable, selon moi, parce qu’on ne sait pas quels seront les biais du logiciel. Il importe pour moi que l’humain reste au cœur de la recension de la littérature. »

M. Thorp pense que ChatGPT pourrait aussi se charger des deux dernières sections d’un article scientifique typique, la discussion des résultats et la conclusion résumant les principales leçons des données expérimentales.

« C’est exactement ce pour quoi le logiciel a été conçu, a dit M. Thorp. Mais il faut que l’humain soit celui qui interprète les résultats. »

Accepterait-il qu’un chercheur demande à ChatGPT d’améliorer une publication déjà rédigée ? « Si on ouvre la porte à cela, on n’aura plus aucun contrôle, répond-il. La science est basée sur la confiance [honor system]. Si on se rend compte qu’une personne a utilisé ChatGPT, ce serait un cas de fraude scientifique, comme la manipulation significative d’images par Photoshop. »

Francesca Rossi a quant à elle fait valoir durant la conférence de presse que les chercheurs dont l’anglais n’est pas la langue première pourraient bénéficier de ChatGPT. « Ça pourrait éliminer certaines barrières pour les chercheurs issus de la diversité », a-t-elle dit. La traduction automatique s'améliorant sans cesse (surtout sur des textes au vocabulaire précis de type scientifique), on est en droit de se demander si la connaissance des langues étrangères (de l'anglais) sera encore longtemps nécessaire pour faire de la science de haut niveau.

Chose certaine, les revues savantes regorgent d’essais sur la question. Et il y a aussi des études créées avec ChatGPT sans qu’il soit désigné comme coauteur. Par exemple, des professeurs de gestion irlandais ont demandé à ChatGPT de rédiger un projet d’étude empirique sur les cryptomonnaies. ChatGPT a suggéré d’étudier le lien entre l’engouement des investisseurs pour les cryptomonnaies et la performance des marchés boursiers.

L’étude irlandaise, publiée dans les Finance Research Letters, conclut que ChatGPT a des forces et des faiblesses par rapport aux différentes étapes de la recherche scientifique. Elle était intitulée L’hypothèse Bananarama, en l’honneur d’une chanson du groupe féminin des années 1980. Le titre de cette chanson, It Ain’t What You Do (It’s the Way That You Do It), reprise d’un classique du jazz, fait écho au fait qu’un outil peut être utilisé de manière positive ou néfaste selon les circonstances, estiment les auteurs irlandais.

Aucun commentaire: