Nouvelle technologie, nouvelles tentations. Les experts voient ChatGPT comme le début d’un développement rapide – qui comporte également des risques.
L’un des prochains développements où l’IA relie différents domaines pourrait être la robotique Photo : Marco Osorio/imago
BERLIN taz | Comment l’intelligence artificielle (IA) va-t-elle changer notre société ? Et à quels développements supplémentaires peut-on s’attendre dans un avenir proche ? Avec la sortie du chatbot IA ChatGPT, ces questions sont venues au premier plan non seulement dans la science mais aussi dans la société. “J’appellerais cela une révolution technologique”, a déclaré l’expert en intelligence artificielle Hinrich Schütze lors d’une discussion au Science Media Center jeudi sur les derniers développements.
Entre autres choses, la quantité de données de formation utilisées et les progrès à partir desquels un chatbot est capable de générer des situations dialogiques sont révolutionnaires. Et malgré toutes les critiques de la désinformation générée par ChatGPT : par rapport à la première génération de générateurs de texte IA, selon Schütz, les erreurs grossières et les problèmes tels que le racisme et la désinformation se sont “améliorés par des ordres de grandeur”.
La société américaine OpenAI a présenté ChatGPT en novembre. L’IA a été formée avec de grandes quantités de texte et génère de nouveaux textes basés sur ces données de formation. Une nouvelle version a été activée pour les clients payants la semaine dernière. Il peut traiter non seulement du texte mais aussi des images. Les experts appellent cela la multimodalité. Cette multimodalité est un premier pas d’une IA faible qui ne maîtrise qu’une seule discipline à une IA forte qui connecte de nombreux domaines.
Avec ChatGPT, une application d’IA a réussi pour la première fois à rendre l’intelligence artificielle tangible pour une large masse de personnes – tant en termes de potentiel que de limites. Il est particulièrement problématique que le programme génère également de fausses informations dans une large mesure. Cependant, ceux-ci ne sont pas directement reconnaissables pour les utilisateurs, car ChatGPT n’indique aucune source pour les textes créés.
Nicole Krämer, professeur de psychologie sociale à l’Université de Duisburg-Essen, pointait un autre problème : « Les gens comprennent trop peu le fonctionnement de tels systèmes. » Cela conduit à des erreurs d’appréciation – d’une part en ce qui concerne la confiance accordée au logiciel. D’autre part, cependant, également en ce qui concerne le traitement de ses propres données. Les gens ont confié à des systèmes d’IA tels que ChatGPT, mais aussi Alexa d’Amazon, une grande quantité de données personnelles.
“Le danger ne réside pas nécessairement dans les informations individuelles que je mets dans le système avec ma demande, mais dans le fait qu’elles peuvent être à nouveau combinées avec d’autres données”, a-t-elle averti. Ici, le législateur s’impose. Il doit au moins s’assurer que les utilisateurs savent effectivement quelles données sont traitées et comment.
À peine une existence numérique sans IA
Ce serait d’autant plus important que, selon Krämer, il deviendra de plus en plus difficile dans les années à venir de ne pas fournir de données à une IA. Même ceux qui n’apportent pas d’assistant vocal comme Alexa chez eux, ou qui n’utilisent pas ChatGPT et les moteurs de recherche pris en charge par l’IA, pourraient utiliser les médias sociaux – et l’IA y jouerait également un rôle en triant et en rendant les messages visibles. “Je ne pense pas que vous puissiez complètement échapper à l’IA.”
Schütze, chaire de linguistique computationnelle et directrice du Centre de traitement de l’information et du langage de l’Université Ludwig Maximilian de Municha également pointé les inconvénients de la nouvelle technologie : des champs professionnels qui deviendraient superflus, un manque de transparence croissant dans les systèmes alors que les gens n’obtiennent que des réponses et ne voient plus les sources lorsqu’ils recherchent.
Et : « Il y aura une tentation de laisser ces machines prendre des décisions. » Dans les domaines du droit et du conseil en investissement, par exemple, mais aussi en médecine. Le problème avec cela : la décision de l’IA est assortie d’un haut degré de crédibilité – la sécurité de la déclaration ne peut pas du tout être évaluée. “Et les gens ne sont pas habitués à ce que quelqu’un parle avec 100% de certitude et de confiance, mais se trompe complètement.” Nous devons apprendre cela en tant que société et ce sera “un processus difficile”.
L’un des prochains développements où l’IA relie différents domaines pourrait être la robotique. Marc Toussaint est responsable du département des systèmes intelligents à l’Université technique de Berlin et a lui-même travaillé sur un modèle d’IA qui combine langage et robotique. Un robot équipé d’une caméra et d’un bras de préhension était capable d’exécuter des commandes vocales – et d’aller chercher des jetons dans le bon tiroir, par exemple. Toussaint partage l’idée de révolution : avec “l’entrelacement du langage et du monde physique”, de toutes nouvelles possibilités se sont ouvertes.
Mais la révolution dans tous les cas – le Sagittaire met en garde en même temps contre le fait de voir trop de potentiel dans les derniers développements. “Nous n’avons pas encore atteint la véritable intelligence artificielle”, a-t-il déclaré. Il ne voit cela que lorsque l’IA a atteint une “compréhension profonde du monde physique et social” – et il attend encore des décennies de travail.
