Agenda technologique — fin mars à début avril 2024

Pas encore d’IA Armageddon

André m’en montre un Publié sur les discussions par l’analyste technique Ben Evans hin:

Il y a (environ) un an, il y avait une lettre ouverte des “Avenir de la vie »-Instituts publié avec le Exigence de suspendre le développement de l’intelligence artificielle pendant (au moins) six mois.
Ce temps devrait être utilisé pour mettre en œuvre un ensemble de protocoles et de règles garantissant que l’IA peut fonctionner de manière responsable et être utilisée en toute sécurité. Cette lettre ouverte a été initiée et signée par des « grands noms » de l’industrie technologique, de la science et de la philosophie, entre autres. Josué Bengio, Stuart Russell, Elon Musk, Steve Wozniak, Yuval Noah Harari, Sam Altman, John J Hopfield, Rachel Bronson, Anthony Aguirre et Danielle Allen. La lettre a été signée par plus de 30 000 personnes et a fait l’objet d’une large couverture médiatique, avec diverses positions prises, notamment : « Oui, nous devons de toute urgence réfléchir aux risques de l’IA », « Cela peut être fait de toute façon », « Ne l’arrêtez pas ». », « Voyez l’orgueil des géants de la technologie de la Silicon Valley » et « Cette lettre n’est qu’un coup marketing de la part des géants de la technologie pour attirer davantage d’attention sur l’IA. » (Voir par exemple ici, ici et ici.)

Ben Evans formule maintenant sur un ton ironique que cela fait maintenant un an que la lettre a été publiée et que « curieusement », aucun « AI Armageddon » n’a encore eu lieu.

Le fait qu’aucun Armageddon (visible) de l’IA ne se soit produit en un an ne me semble pas être une bonne preuve de quoi que ce soit, mais je profiterai de l’occasion pour réfléchir brièvement sur comment et où je perçois consciemment et utilise activement l’IA au quotidien. la vie aujourd’hui.

J’ai dressé une liste désormais assez longue de petits assistants IA que j’utilise occasionnellement dans la vie de tous les jours – notamment au travail – pour me faciliter les tâches. Beaucoup d’entre eux sont utiles en principe, mais ne servent pour la plupart que de point de départ à des recherches ultérieures.

IA consensuelle Je l’utilise occasionnellement pour obtenir des résumés de sujets scientifiques avec les références pertinentes, Profond Je l’utilise souvent pour traduire des textes. Les réponses suggérées par WhatsApp sont parfois utiles lorsqu’il s’agit essentiellement d’un bref oui ou non ; J’ai désactivé les suggestions de réponse générées par l’IA dans mon programme de messagerie car elles étaient inutilisables.

Je trouve ça intéressant quand je dois corriger une grosse pile de devoirs et que j’utilise une application comme expérience et pour me soutenir ChatGPT écrire. La tâche de mon application d’IA est de vérifier pour moi au préalable si les spécifications du cadre formel des devoirs sont respectées : la structure est-elle correcte ? Toutes les sources sont-elles citées dans un style de citation cohérent, les sources peuvent-elles être trouvées et sont-elles utilisées dans le texte ? Y a-t-il des anomalies qui indiquent un plagiat ?
L’écriture de l’application IA est très simple, la formulation des critères à vérifier est de loin la partie la plus complexe. Ces contrôles basés sur les critères clairs que j’ai spécifiés fonctionnent assez bien et il me suffit de les vérifier brièvement par la suite. Cela rend mon travail un peu plus facile.
Juste pour m’amuser, j’essaie un peu si ChatGPT peut aussi être utile pour évaluer le contenu des devoirs en fonction d’autres critères clairement précisés, mais sans surprise, ces résultats sont (encore) peu utiles.

L’IA a probablement la plus grande influence sur ma vie quotidienne là où je n’en suis pas consciemment conscient : par exemple, je ne sais pas combien de textes que je lis chaque jour sont encore écrits par des humains.

Et cela m’amène probablement au plus gros risque que je vois en relation avec l’IA. signifier Ce que je vois actuellement dans la vie de tous les jours : Que cela augmente le bruit général et détériore le rapport signal/bruit dans la vie de tous les jours. Que tous les textes, qu’il s’agisse d’e-mails, de publications, d’applications, de rapports, de textes marketing, de concepts ou autre, deviennent de plus en plus longs car avec l’aide de l’IA, des textes de plus en plus longs peuvent être produits avec de moins en moins d’effort. Et avec tous ces textes, je ne sais pas si je dois tous les lire ou s’il suffit de lire un résumé généré par l’IA. Il est possible que des détails importants soient cachés dans des endroits peu visibles dans un long texte et passent inaperçus dans les résumés générés par l’IA.

Bien. Chances et risques. Fin 2023 / début 2024 Le Parlement européen a trouvé un accord sur un « AI Act », un premier cadre juridique pour faire face aux risques de l’IA. Quoi qu’il en soit, l’IA ne peut être ignorée et le développement ne s’est pas arrêté.

(Molinaire)