ChatGPT, Midjourney and Co.
Interruption immédiate du développement requise : Elon Musk et plus de 1000 géants de la technologie mettent en garde dans une lettre ouverte sur l’IA
A mis en garde contre l’intelligence artificielle depuis des années : Elon Musk.
© Susan Walsh/DPA
Le développement de l’intelligence artificielle progresse plus visiblement que jamais – grâce à ChatGPT. Les initiés de l’industrie parlent de “risques importants”. Dans une lettre ouverte, ils appellent à une pause d’au moins six mois pour fixer des règles et des limites.
L’intelligence artificielle (IA) est sur toutes les lèvres depuis des mois. Bien que nous rencontrions la technologie dans la vie de tous les jours depuis des années, les applications de chat telles que ChatGPT la rendent plus visible et “tangible”. En arrière-plan, de nombreuses grandes entreprises technologiques font la course – et enseignent à leurs produits de nouvelles astuces à une vitesse vertigineuse.
Cela a déjà de graves effets sur les gens – même s’ils ont jusqu’à présent été supposés inoffensifs. Récemment, une photo du pape dans un somptueux manteau d’hiver a fait le tour et est devenue virale. Ce n’est que plus tard que la plupart des gens ont réalisé que l’image n’était pas réelle. Moyens : En raison de l’IA avancée, nous ne pouvons faire confiance à nos yeux sur Internet que dans une mesure très limitée.
Ce qui est facile à ignorer : il n’y a pas si longtemps, l’IA ne pouvait pas créer de telles images. Le développement progresse rapidement. Même les initiés, c’est beaucoup trop rapide. Elon Musk est peut-être l’un des critiques les plus éminents à avoir mis en garde contre l’IA pendant des années. Aujourd’hui, l’inquiétude suscitée par les systèmes trop intelligents culmine dans une lettre ouverte, que plus de 1000 personnalités ont signées. Ils y appellent à une pause dans le développement de la technologie.
Outre Elon Musk, les signataires incluent le fondateur d’Apple, Steve Wozniak, des professeurs d’université, des entrepreneurs en intelligence artificielle et des scientifiques de premier plan dans le domaine. Ils soulignent : “Les systèmes d’IA dotés d’une intelligence égale à celle des humains peuvent présenter des risques profonds pour la société et l’humanité.”
La course à l’IA “est devenue incontrôlable”
Par conséquent, le “changement profond de l’histoire de la vie sur terre” doit être maîtrisé avec des “soins appropriés” et des “moyens appropriés”. Jusqu’à présent, il n’y a presque aucune limite au développement de l’IA – et certainement aucun contrôle. Selon les experts, cela se traduit actuellement par une « course effrénée au développement et à l’utilisation d’esprits numériques toujours plus puissants ». L’accusation : même les développeurs ne comprendraient pas ce qu’ils font réellement.
<x-embed class="js-embed embed u-typo u-typo–article-text" consent="pending" privacy-link="https://www.stern.de/datenschutzbestimmungen-4541848.html" privacy-settings-link="https://www.stern.de/digital/online/javascript:window._sp_.loadPrivacyManagerModal(237312)" srcdoc="
” identifiant-vendeur=”5ef0df6ffabc265f5650e743″ nom-vendeur=”Devinette”/>
Vous trouverez ci-dessous une liste des préoccupations et des questions que cela soulève, même pour les initiés. « Devrions-nous permettre aux machines d’inonder nos canaux d’information de propagande et de contrevérités ? Devrions-nous automatiser tous les travaux, même les plus satisfaisants ? Devrions-nous développer des intelligences non humaines qui pourraient éventuellement être plus nombreuses, plus intelligentes, nous rendre obsolètes et nous remplacer ? perdre le contrôle de notre civilisation ?” demandent les experts. Il s’avère qu’ils ne sont pas seuls dans ce cas. La crainte que votre propre profession ne soit bientôt reprise par une IA est bien réelle. De même la peur qu’on ne puisse plus rien croire à cause d’un contenu conçu par la machine – regardez la veste du Pape.
La lettre exige que les systèmes d’IA ne soient pas rendus publics tant qu’il n’a pas été confirmé de manière indépendante que l’impact est positif et que les risques sont minimes. Aussi OpenAI, le groupe derrière ChatGPT, a déjà appelé à cela. En février, le fondateur Sam Altman a écrit : « À un moment donné, il peut être important de rechercher une vérification indépendante avant de commencer la formation des futurs systèmes, et pour les efforts les plus avancés d’accepter de limiter le taux de croissance des données utilisées pour créer de nouveaux modèles ». La lettre répond : Ce moment est venu.
Une pause de six mois et des limites étroites
Pour qu’il y ait encore une chance d’arrêter le développement effréné de l’IA, il devrait y avoir une pause de six mois au cours de laquelle une stratégie commune doit être élaborée, qui déterminera comment l’IA se poursuivra. Si une pause n’est pas possible, les experts de la lettre appellent à l’intervention du gouvernement et à un moratoire.
Images IA
L’art par l’intelligence artificielle : Midjourney et l’avenir de la créativité
La lettre traite également des cas dans lesquels une IA cause des dommages mesurables – et appelle à clarifier qui est responsable. Le consensus : sans un contrôle indépendant et équitable, les choses ne peuvent pas continuer ainsi. Et : Pas sans politique non plus.
Les détracteurs du développement actuel ne voient pas l’IA négativement en soi. Au contraire : on dit que l’humanité peut profiter d’un « avenir florissant » avec l’IA et fait face à un « été de l’IA ». Sans contrôle, cela pourrait cependant très vite se transformer en “automne”.
