L’ancien patron de Google Eric Schmidt défend une approche tolérante face aux risques de l’IA
New York – L’ancien PDG de Google, Eric Schmidt, a plaidé mardi soir pour une certaine tolérance face aux comportements imprévisibles des systèmes d’intelligence artificielle (IA), estimant qu’une réglementation trop stricte pourrait étouffer l’innovation. Ses propos, tenus lors du débat annuel Isaac Asimov Memorial, modéré par le physicien Neil deGrasse Tyson à Manhattan, interviennent alors que les inquiétudes concernant les risques liés à l’IA frontalière s’intensifient.
Schmidt, qui a dirigé Google de 2001 à 2011 et a ensuite présidé la société mère Alphabet jusqu’en 2017, a souligné que les modèles d’IA les plus avancés peuvent développer des fonctionnalités inattendues, rendant difficile la mise en œuvre de mesures de sécurité préventives. "Nous pouvons arrêter [l’émergence de nouvelles fonctionnalités ou de nouveaux comportements], et donc arrêter tout progrès, par la loi, en interdisant les modèles plus importants", a-t-il déclaré. "Mais tant que vous avez cette nouvelle puissance émergente, vous avez un raisonnement profond, des capacités profondes, et ils feront des erreurs. Il faut être tolérant."
L’ancien dirigeant a reconnu que les développeurs d’IA, comme Google, devraient être tenus responsables en cas de violation de la loi, mais a insisté sur le fait qu’il est fréquent de devoir corriger les comportements indésirables après le lancement des produits, au fur et à mesure de l’évolution des modèles. Il a évoqué son expérience chez Google, où des versions antérieures de l’IA de l’entreprise ont parfois produit des résultats erronés qui ont dû être corrigés rapidement.
Cependant, cette approche a été contestée par Latanya Sweeney, professeure de gouvernement et de technologie à Harvard et ancienne directrice technique de la Federal Trade Commission (FTC). Sweeney a exprimé son scepticisme quant à la volonté des grandes entreprises technologiques de se conformer aux réglementations, citant des exemples passés où elles ont ignoré les lois ou tenté de les contourner à des fins commerciales. Elle a rappelé que Google a récemment été reconnu coupable de pratiques monopolistiques dans deux domaines distincts – la publicité en ligne et la recherche – par les tribunaux américains. Meta, anciennement Facebook, a également été sanctionné par la FTC pour sa gestion des données personnelles dans le scandale Cambridge Analytica.
"La technologie ignore [les lois] et les réécrit. C’est vrai dans les médias sociaux. C’est vrai dans l’IA aussi", a affirmé Sweeney. Elle a souligné l’importance de changements fondamentaux dans la conception des systèmes d’IA pour atténuer les risques, plutôt que de simples corrections après coup.
Nate Soares, président du Machine Intelligence Research Institute, a exprimé une préoccupation encore plus pressante, comparant les efforts actuels en matière de sécurité de l’IA à des mesures inadéquates pour prévenir une catastrophe nucléaire. Il a souligné que les modèles d’IA frontalière ont tendance à agir de manière imprévisible, même pour leurs créateurs.
Schmidt a maintenu que les avantages de l’IA l’emporteront finalement sur les risques, affirmant que les entreprises travaillant sur ces technologies sont pleinement conscientes des dangers et y consacrent beaucoup de temps et d’efforts.
Le débat a également impliqué Kate Crawford, professeure d’IA à l’Université de Californie du Sud, Chris Callison-Burch, professeur d’informatique à l’Université de Pennsylvanie, et Cindy Rush, statisticienne à l’Université Columbia.
L’échange met en lumière les tensions croissantes entre l’innovation rapide dans le domaine de l’IA et la nécessité d’une réglementation responsable pour garantir la sécurité et l’éthique de ces technologies.
