Revue : Comment ChatGPT a fait bouger l’équipe éditoriale de TR

ChatGPT est présent dans le monde depuis plus d’un an maintenant – et l’a vraiment bouleversé. Il semble juste pour nous, en tant qu’équipe éditoriale du MIT Technology Review, d’évaluer et d’enregistrer rétrospectivement nos attentes et nos désillusions à l’égard de l’outil.

Publicité

Luca Caracciolo, rédacteur en chef de TR :

Je me souviens encore du moment où nous avons parlé pour la première fois de ChatGPT à la rédaction. Un collègue l’a découvert et a rapporté avec quelle euphorie les premiers utilisateurs en ont parlé sur les réseaux sociaux. Peu de temps après, nous avons examiné l’outil de plus près.

Puisqu’il est de notre devoir d’écrire sur l’avenir, les modèles de langage et en particulier “GPT” sont un sujet pour nous depuis longtemps – et nous avons écrit à ce sujet à de nombreuses reprises. Le succès rapide et important de ChatGPT nous a également surpris – peut-être parce que nous sommes un peu aveugles sur le plan opérationnel et avons pensé qu’il s’agirait d’une très belle “itération” de GPT.

Mais ce qu’OpenAI a réalisé avec la sortie de « ChatGPT » est énorme. Ils ont doté leur puissant modèle de langage GPT d’une interface que des milliards de personnes utilisent chaque jour : le chat textuel. Les messageries WhatsApp, Signal, iMessage, … font désormais partie intégrante de la communication quotidienne. Et quoi de mieux que de « simplement » discuter avec une IA ? Ce faisant, OpenAI a rendu accessible au plus grand nombre le sujet encore abstrait de « l’intelligence artificielle » – et a créé un nouveau marché pratiquement du jour au lendemain.

Quelques mois plus tard, après que le battage médiatique initial se soit calmé, j’étais assis à côté de mon fils. Il a fait fonctionner ChatGPT sur son MacBook et a appris les mathématiques – avec l’IA. Elle lui a confié des tâches et lui a expliqué les règles de calcul qui les sous-tendent ainsi que la méthode de calcul. Il n’a plus besoin de moi…

Andrea Hoferichter, rédactrice en chef de TR pour la biotechnologie et la médecine :

L’envie a peut-être été le premier sentiment lorsque ChatGPT a écrit pour la première fois un texte que j’ai commandé – des absurdités à la “La lune s’est levée” dans le style d’Olaf Scholz. Une ligne après l’autre apparaissait très rapidement sur mon écran, 4000 caractères en moins d’une minute. Mon processus créatif est beaucoup plus lent et cahoteux. Malheureusement, cela s’applique toujours, même si je travaille de temps en temps avec le robot vocal. Il est au moins utile comme outil auxiliaire pour les résumés de texte et les vérifications de style. Mais je ne lui confierais pas des tâches complètes : les résultats sont trop irréguliers et parfois trop fluides – du moins à mon goût. Lors de mes recherches pour notre édition d’été sur le thème de l’éducation, j’ai été surpris de voir quelle bouffée d’air frais les enseignants espéraient de la part de ChatGPT and Co. On a dit que l’école, comme au siècle dernier, n’est plus possible en raison du risque de tricherie. Les cours deviennent enfin plus axés sur des projets, plus individuels et plus stimulants. Que cela se produise réellement, malgré la pénurie d’enseignants et le mauvais équipement scolaire, pourrait bien donner lieu à une vérification des faits l’année prochaine.

Gregor Honsel, rédacteur TR pour la mobilité et l’énergie :

En fait, je n’ai pas tendance à inonder les canaux de discussion de mes commentaires. Mais en fin d’après-midi du 17 mars, il fallait le faire. Entre autres choses, j’ai chargé ChatGPT4 de réécrire un de mes articles dans le style de Goethe, Shakespeare, James Joyce, Arno Schmidt et du Bildzeitung. Les résultats étaient, comme je l’avais posté à l’époque, « incroyablement bons ». Et ma collègue Jennifer Lepies a commenté : « OMG – n’est-ce pas drôle ?

Il s’agissait bien entendu d’une expérience strictement officielle. Les résultats sont disponibles dans le numéro 4/2023 de MIT Technology Review. Voici un petit échantillon. Entrée : “Mais que pensent réellement Habeck et son peuple là où les gens vivent dans ce pays ?” GoethePT4 : “Mais que pensent M. Habeck et son entourage dans son entourage ? Où vivent les gens ici à la campagne, où sont leurs logements ?”

J’aurais pu passer des heures à soumettre des tâches de plus en plus obscures à ChatGPT – des manuels d’instructions en hexamètres ; Des bulletins météorologiques sous forme de haïkus ; la Loi fondamentale en moyen haut allemand ; les Dix Commandements comme du rap gangster. Les résultats ne seraient pas toujours brillants, mais ils seraient toujours surprenants et amusants.

Une chose est devenue très vite claire pour moi : même si des grands maîtres comme Dieter Hildebrandt restent sans égal, ChatGPT était définitivement meilleur que moi, du moins en ce qui concerne les parodies. «Je me sens comme Garry Kasparov en 1996 en ce moment», ai-je posté sur notre chaîne éditoriale le 17 mars.

Wolfgang Stieler, éditeur TR pour la physique et l’intelligence artificielle :

Lorsque j’ai commencé à m’intéresser sérieusement à l’IA, la recherche sur l’IA célébrait son 50e anniversaire. C’était en 2006 (oui, je suis si vieux). Pendant longtemps, l’IA était un truc exotique pour les nerds – des concepts et des idées intéressants, mais rien qui ne fonctionnait vraiment. Lorsque j’ai vu ChatGPT en action pour la première fois, ma première pensée spontanée a été : Wow, ce que nous attendons depuis 20 ans fonctionne maintenant.

Même si les modèles linguistiques ont fait des progrès impressionnants cette année, la désillusion s’est installée. Le problème des hallucinations demeure. Jusqu’à ce que ce problème soit résolu, les applications telles que la recherche, le résumé et la recherche resteront fondamentalement peu fiables. On ne sait pas encore si le problème peut être résolu. Ce qui semble fonctionner dans une certaine mesure, c’est l’idée de spécialiser les modèles de langage dans des domaines restreints. Ensuite, ils deviennent plus fiables – mais restent des idiots experts.

Après tout, ma crainte que la technologie contribue à automatiser et à accroître la haine et la désinformation n’a pas été confirmée. Mais étant donné la situation mondiale, ce n’est probablement pas nécessaire.

Ce qui reste? Le sentiment de « hamster dans une roue ». Chaque fois que l’on pense que l’évolution s’est un peu calmée, une grande agitation éclate quelque part : parfois il s’agit d’un nouveau modèle, de luttes de pouvoir internes chez l’un des grands acteurs, de nouveaux produits, de l’état actuel du débat réglementaire, de déclarations scandaleuses. entretiens avec d’éminents chercheurs, nouveaux produits… Je passe au moins une heure chaque jour ouvrable à parcourir l’actualité. Après l’annonce du Gemini de Google, nos confrères américains écrivaient que le développement de l’IA avait atteint son “pic hype”. Je n’y crois pas. L’IA est grande et Internet est son prophète.

Aylin zur Borg, responsable des médias sociaux pour TR :

Lorsque l’équipe éditoriale a eu accès à ChatGPT, j’étais dans une frénésie de productivité : combien de publications supplémentaires sur les réseaux sociaux pourrais-je écrire pour Technology Review si l’IA faisait la moitié du travail à ma place ! Mais mes tentatives pour que ChatGPT fonctionne pour moi ont échoué. Aussi bon qu’il soit pour des tâches ou des résumés simples et créatifs, ses faiblesses sont devenues évidentes lorsqu’il s’agissait de tâches d’écriture plus exigeantes.

Trois choses en particulier m’ont énervé. Premièrement : l’IA ne sait pas lire dans les pensées, je dois donc lui expliquer longuement comment rédiger les textes pour les réseaux sociaux : quelle structure, quelle longueur de caractères, quel style d’écriture, pas trop d’emojis. À un moment donné, mon invite standard était presque aussi longue qu’un article.

Deuxièmement : ChatGPT adore les expressions comme percée ou révolution, et même avec la demande d’écrire un peu plus neutre et de ne pas utiliser certains termes, je n’arrive pas à sevrer l’IA de ses exagérations euphoriques.

Troisièmement : avec la même invite, ChatGPT ne produit pas le même résultat. La structure donnée est la même à chaque fois, et pourtant, parfois, certaines parties de l’invite sont simplement ignorées ou interprétées différemment.

Aussi étonnant que je trouve ce saut apparemment soudain dans la qualité des chatbots autrefois rudimentaires, je suis toujours beaucoup plus rapide si je fais simplement le travail moi-même. Peut-être que je devrais m’en réjouir.

(jl)