ChatGPT est annoncée comme LA technologie qui va révolutionner le monde du travail, de l’apprentissage et, plus largement la société. Mais ce prototype d’agent conversationnel, malgré sa bonne orthographe et sa bonne syntaxe, n’exprime ni émotions ni prise de décisions et ne puise pas ses informations en temps réel. Alors Chat GPT est-il vraiment cette innovation de rupture qui transformera tous les modèles établis ?
Une sensibilisation urgente
L’IA générative est susceptible d’avoir un impact important sur la formation, la manière d’enseigner, l’évaluation des étudiants. La sensibilisation des enseignants et enseignants chercheurs à ces nouveaux outils devra se faire rapidement. Il en est de même pour les étudiants qui seront amenés pour la plupart à s’en servir dans le monde professionnel qui s’en est déjà emparé à des degrés divers.
IA générative et formation des étudiants : de quoi parle-t-on ?
Selon Didier Schwab, professeur à l’IUT2, UGA et chercheur au LIG (CNRS/Inria/UGA/Grenoble INP – UGA), lors de la journée organisée par Grenoble INP-UGA le 10 juillet 2023 sur l’IA générative, ces intelligences artificielles ont été entrainées en utilisant d’énormes quantités de textes pour prédire le mot suivant dans une séquence de mots donnée… et c’est tout ! Ces textes d’entraînement proviennent de livres, du web ou correspondent à des formulations de tâches courantes (traduis ce texte en espagnol, donne-moi le sens du mot « souris » dans le texte suivant…). Les modèles les plus grands peuvent apprendre de nouvelles tâches et imiter la discussion avec les utilisateurs, comme ChatGPT.
Des questions d’éthique
Ces outils soulèvent des problématiques éthiques telles que les choix éditoriaux et l’hébergement sur des serveurs aux États-Unis. Un des défis majeurs de la recherche académique actuelle consiste à évaluer de manière objective ces IA génératrices, notamment en ce qui concerne la détection des biais sociétaux tels que le genre, le racisme et l’âge. C’est l’un des objectifs du projet Pantagruel (Financé par l’Agence Nationale de la Recherche, il réunit une quinzaine de laboratoires francophones et sera dirigé par Didier Schwab à partir d’octobre 2023).
Un impact incontournable sur la formation
Florence Maraninchi, professeure à Grenoble INP – Ensimag et chercheuse au laboratoire VERIMAG (CNRS/UGA/Grenoble INP – UGA), lors de la journée organisée par Grenoble INP-UGA le 10 juillet 2023 sur l’IA générative, souligne un usage probable de ChatGPT par des étudiants pour rédiger des travaux. Il serait vain d’interdire ces outils, mais il faut réfléchir à ce que nous attendons des étudiants ingénieurs lorsque nous demandons un texte écrit sur un sujet scientifique ou technique. Est-ce la forme qui compte, ou bien l’argumentation logique et les éléments techniques factuels précis ?
« Il faut être conscient des impacts cachés de l’utilisation de ces outils, que ce soit dans le cadre des études ou dans la vie professionnelle à laquelle nous préparons nos étudiants »
Des impacts cachés
Les impacts sociaux et environnementaux du numérique sont déjà importants et croissants. Il est indispensable de confronter les gains attendus aux impacts supplémentaires de l’IA en général et des grands modèles de langage en particulier : consommation d’énergie, d’eau, de matières premières, reproduction de biais divers, exploitation de travailleurs à la tâche et transformation du travail, pollution du web par des textes produits sans objectif de véracité, problèmes de propriété intellectuelle et de perte de souveraineté, etc.
Des pistes de réflexion ouvertes
Ces échanges lors de la journée thématique de Grenoble INP – UGA traduisent une très forte attente de la part des personnels de l’enseignement supérieur et de la recherche d’en savoir plus sur ces outils pour évaluer les opportunités mais aussi les risques. Il reste de nombreuses questions en débat : à quoi ressembleront nos enseignements et les évaluations des étudiants dans 5 ans ? De nouveaux métiers vont-ils émerger ? Les risques sont-ils suffisamment importants pour qu’on mette nos étudiants en garde ? Faut-il accompagner nos étudiants pour qu’ils s’en servent correctement ? Quels sont les aspects cachés de ces technologies ? Les enseignants doivent-ils utiliser ces outils eux-mêmes, et pour quels types d’usage ? A quoi ressemblera la recherche d’informations fiables si l’IA générative continue à se répandre ?
Un travail à plus long terme permettra de poursuivre les débats et de sensibiliser le plus grand nombre d’enseignants et d’enseignants chercheurs à ces technologies.
Par Christine Chirat, Enseignant-chercheur Grenoble INP – UGA
fourni par le Borlabs Cookie