ChatGPT à l’école et à l’université

OChaque fois qu’il y a des innovations techniques révolutionnaires en Allemagne, la première chose que les gens demandent, c’est la réglementation. Cela s’applique également à ChatGPT, qui est déjà utilisé presque tous les jours par des lycéens et des étudiants et, en tant que programme de traitement de texte et de parole, présente à la fois des opportunités et des risques. Sans aucun doute, cela augmente les possibilités de tricherie, notamment en sciences. ChatGPT produit encore beaucoup d’erreurs pour le moment. Cependant, la plupart des chercheurs considèrent comme un faux espoir que l’origine d’un texte généré avec l’intelligence artificielle (IA) reste techniquement facilement reconnaissable.

Le chercheur en intelligence artificielle de l’Institut d’évaluation des technologies et d’analyse des systèmes du KIT à Karlsruhe, Steffen Albrecht, qui a rédigé un document d’information pour une audition de la commission de l’éducation, de la recherche et de l’évaluation des technologies cette semaine au Bundestag allemand, fait référence au caractère unique des textes générés par ChatGPT. Le logiciel existant pour traquer le plagiat est défaillant et de nouveaux programmes sont formés, mais pas avec un succès retentissant. Il propose une sorte de filigrane qui entremêle certains motifs dans des textes qui ne dérangent pas les gens lors de la lecture, mais sont reconnaissables par les machines.

Lors de la rédaction de textes scientifiques, l’IA pourrait aider à obtenir un aperçu de la littérature pertinente ou à publier dans une autre langue. Les éditeurs scientifiques ont de bonnes raisons de refuser de publier des textes écrits par des systèmes d’IA. Parce que la loi allemande sur le droit d’auteur exige une création intellectuelle personnelle, de sorte que seuls les textes créés par des personnes peuvent être protégés. La pression croissante à publier, notamment en phase de qualification, pourrait néanmoins inciter certains chercheurs à faire écrire leurs études par un système d’IA – sans parler des dissertations et mémoires.

Les formats d’examen doivent être modifiés

Les premières universités ont déjà fait leur chemin et changé leurs formats d’examen. Ils s’appuient davantage sur les examens en face à face que sur les devoirs. Dans les matières sociales et linguistiques, cependant, cela est difficile. Tant en droit que dans d’autres matières des sciences humaines, ChatGPT pourrait rédiger des contre-arguments à sa propre position et ainsi entraîner des discussions controversées. Le tribunal régional supérieur de Stuttgart teste actuellement l’utilisation de l’IA dans les révisions de contrats et d’autres tâches juridiques de routine dans le cadre d’un projet pilote.

Dans les écoles, le processus de recherche de sources, de construction d’un argumentaire, c’est-à-dire le travail préparatoire de votre propre texte linguistique, pourrait jouer un rôle beaucoup plus important à l’avenir. L’Université technique de Munich a développé l’outil “PEER” (Paper Evaluation and Empowerment Resource) au département de Kelkelejda Kasneci, qui est destiné à soutenir les étudiants dans la rédaction d’essais. Les étudiants peuvent photographier ou télécharger leur texte, qui est ensuite examiné par l’IA et fournit des commentaires personnalisés avec des suggestions d’amélioration. Kasneci lui-même pense que les étudiants les plus faibles en particulier peuvent bénéficier de ces outils. Cependant, cela signifie également que ChatGPT ne peut pas remplacer les enseignants, mais nécessite un soutien continu du processus d’apprentissage. Sinon, ce qui a déjà été montré avec d’autres offres numériques d’enseignement et d’apprentissage se répétera : les élèves les plus forts en profitent énormément, et les plus faibles apprennent encore moins efficacement. Lors de l’apprentissage de la lecture, la technologie dite de suivi oculaire dans les manuels pris en charge par l’IA pourrait reconnaître si les enfants peuvent suivre ce qu’ils lisent. Des modèles similaires sont concevables pour les déficits de langage et les troubles d’apprentissage.

L’un des plus grands risques pour les chercheurs en IA n’est pas seulement les problèmes de droits d’auteur, mais aussi le risque que les étudiants fournissent à ChatGPT de nombreuses informations personnelles sur lesquelles ils n’ont plus le contrôle car le système est géré par une société privée aux États-Unis. De plus, les utilisateurs peuvent facilement commettre des violations du droit d’auteur si ChatGPT utilise des parties de texte protégées par le droit d’auteur qui sont similaires ou même identiques à l’original sans que cela soit reconnaissable pour l’utilisateur.

FDP : N’ayez pas peur de l’intelligence artificielle

Berlin a été le premier État à publier un document sur la gestion de l’IA dans les écoles en utilisant l’exemple de ChatGPT, qui fait référence aux possibilités d’auto-apprentissage et de contrôle de ses propres progrès d’apprentissage, mais déclare également qu’un texte généré par ChatGPT qui est sorti comme le vôtre, doit être classé comme insatisfaisant dans tous les cas. D’autres pays et la Conférence des ministres de l’éducation suivront.

Dans une prise de position pour l’IA dans l’éducation, le groupe parlementaire FDP met avant tout l’accent sur les opportunités. “La peur de l’IA ne doit pas déterminer nos actions”. Cependant, le FDP dépasse également la barre lorsqu’il pense que le transfert de connaissances se fera principalement à l’avenir par des outils d’apprentissage basés sur l’IA. S’ils peuvent soulager les enseignants, ils ne peuvent certainement pas les remplacer. En revanche, la proposition du FDP d’utiliser l’IA pour le diagnostic pédagogique et l’évaluation des performances semble plus logique afin d’assurer des besoins d’accompagnement et des critères d’évaluation objectifs.

Les libéraux rejettent strictement la classification des robots de chat comme “applications à haut risque”, comme cela est actuellement discuté au niveau européen. Alors “leur utilisation, par exemple dans les écoles, serait pratiquement impossible”, précise le document dont dispose la FAZ. Lorsqu’il s’agit de diagnostics, par exemple avant la rentrée scolaire ou lors des examens d’entrée à l’école, les applications d’IA pourraient être d’une grande aide si les enseignants peuvent les gérer. “Les débats sur l’éthique et la protection des données doivent être réalistes plutôt qu’irréalistes”, déclare le document de position des libéraux démocrates.