Intelligence artificielle générative et recherche académique : comment préserver éthique et intégrité scientifique

Pour les scientifiques, l’intelligence artificielle générative peut apparaître comme une option pour gagner du temps et augmenter leur productivité, mais ce n’est pas sans risques.

Lors de la pandémie de Covid-19, le refus de se faire vacciner résultait notamment du manque de confiance dans l’efficacité et la non-dangerosité du vaccin. Les climatosceptiques (32 % en France) continuent de nier la responsabilité des activités humaines dans le changement climatique. Ces deux exemples ont en commun la remise en question des apports de la science, menant au « scientoscepticisme ».

L’intégration de l’intelligence artificielle à tous les niveaux de la production scientifique pourrait venir renforcer ce sentiment dans la population. Une recherche intègre, éthique et responsable est une condition indispensable au maintien de la confiance des citoyens. Face aux bouleversements induits par l’intelligence artificielle générative (IAG) et en l’absence de règles clairement diffusées au sein de la communauté scientifique, les chercheurs en sciences humaines et sociales (SHS) s’interrogent sur l’évolution et l’éthique de leurs pratiques.

Dans un contexte très concurrentiel où la carrière des chercheurs dépend en grande partie de leur production scientifique, le recours à des outils d’IAG peut apparaître comme une option – pour un coût supposément minime (la plupart des outils sont gratuits et leur utilisation en apparence aisée) – pour augmenter leur propre productivité en s’appuyant sur les capacités de synthèse de vastes ensembles de données et d’écriture des IAG. Cette délégation peut sembler séduisante, mais comporte des risques importants.

Un double questionnement pour les chercheurs

La qualité de la production scientifique repose sur un système d’évaluation par des pairs (peer-review), le plus souvent anonyme. Dans un processus de publication, les chercheurs sont soit auteurs, soit évaluateurs, avec des problématiques quelque peu différentes.

• Pour les auteurs, l’IAG est susceptible d’être mobilisée à différentes étapes du processus de la recherche (revue de littérature, collecte et analyse de données, rédaction…), ce qui interroge la notion même de propriété intellectuelle. Dans les SHS, où le processus de recherche est souvent itératif, interprétatif et sensible au contexte (en raison de son objet – la société et les relations entre les humains – et pour lequel des méthodologies qualitatives sont souvent mobilisées ; par exemple une analyse de discours de patients au fur et à mesure de l’adoption d’une solution en e-santé), le recours à l’IAG peut ainsi transformer en profondeur les pratiques de recherche. S’il peut aider les chercheurs, il soulève également une question centrale : à partir de quel moment ce soutien devient-il une délégation de l’acte scientifique lui-même ? Or, il est un principe de base, quelle que soit l’intervention de l’IAG dans la rédaction d’un article scientifique, seul le ou les auteurs humains seront in fine responsables du contenu produit. Dès lors, il devient urgent d’élaborer des directives explicites partagées, sur la façon de l’intégrer de manière responsable et de déclarer son usage de façon transparente.

Source : www.theconversation.com

Découvrir la suite de l'article sur le site d'origine‍