La philosophe Carmody Grey a refusé une invitation d’Anthropic à San Francisco pour orienter la formation morale de l’intelligence artificielle. Professeur à l’Université Radboud, elle dénonce un outil qui concentre le pouvoir, esquilme la nature et risque de nous rendre plus seuls et plus bêtes.
L’entreprise créatrice du chatbot Claude a essuyé un refus de taille. Anthropic avait contacté Carmody Grey, théologienne et philosophe londonienne âgée de 43 ans, pour l’inviter à participer à San Francisco à une collaboration de recherche axée sur les « traditions de sagesse » afin d’orienter la formation morale des systèmes d’intelligence artificielle. Après plusieurs séries de discussions, la professeure de l’Université Radboud, aux Pays-Bas, a dit non, selon ses révélations dans un long essai publié dans le Financial Times et rapporté par El País.
Les raisons du refus face aux ambitions d’Anthropic
–/wp:heading –>
La décision a surpris ses collègues, un petit humain rejetant l’approche de ces géants technologiques qui prétendent dominer le monde. Mais pour Carmody Grey, le cœur du problème ne réside pas dans sa propre décision, sinons dans la conquête mondiale apparemment imparable de la technologie. Je veux parler du utilisateur, de la adicción et de la deshumanización, sobre nuevas formas de violencia y explotación, déclare-t-elle au journal El País, en pointant du doigt les dynamiques commerciales qui sous-tendent ces grands projets. Au fond, écrit-elle, ces entreprises existent pour vendre un produit.
L’invitation même portait selon elle les stigmates d’une démarche suspecte. S’entretenant avec le média, elle s’interroge sur la présomption de ces structures : quelle tradition a jamais réclamé de collaborer avec Anthropic dans ces conditions à huis clos, sur leur propre terrain et selon leurs propres termes ? Bien qu’elle qualifie les interlocuteurs rencontrés au sein de l’entreprise de personnes impressionnantes animées d’une curiosité philosophique sincère, elle relève une instrumentalisation inévitable des humanités au service d’un intérêt commercial manifeste.
Carmody Grey, philosophe et professeur à l’Université Radboud, soutient qu’il faut réfléchir aux nombreux effets de ces outils, estimant qu’ils concentrent le pouvoir, diluent la responsabilité, épuisent la nature, s’approprient des cultures et des langues à des fins lucratives et nous rendent probablement plus solitaires et plus stupides.
Le piège de la neutralité académique au service de la tech
–/wp:heading –>
Le phénomène des entreprises technologiques qui recrutent des philosophes soulève des interrogations éthiques profondes sur la liberté de la recherche. Si certaines firmes comme Google affichent un véritable désir d’intégrer des spécialistes de l’éthique, d’autres déploient une machinerie de communication sophistiquée pour façonner un récit de sérieux intellectuel et moral.
Pour Carmody Grey, les universitaires qui choisissent de rejoindre ces structures d’intelligence artificielle doivent assumer la réalité de leur position. Elle affirme que si quelqu’un ayant étudié la philosophie décide d’aller travailler dans une entreprise d’IA, il est au moins clair qu’il sait qui il sert, tout en précisant qu’ils devraient abandonner le titre de philosophes pour être désignés comme des personnes dotées d’une formation philosophique travaillant pour l’industrie. Elle met en garde contre ce travail académique qui, sous couvert de neutralité, sert en réalité des intérêts commerciaux.
La contre-proposition sur la BBC et le dialogue véritable
–/wp:heading –>
Loin de refuser tout échange avec le secteur technologique, la philosophe prône un dialogue authentique qui respecte les règles de la transparence et de l’indépendance. En réponse à l’invitation à San Francisco, elle a formulé une contre-proposition concrète aux émissaires d’Anthropic.
Elle les a conviés à débattre publiquement avec elle sur les antennes de la BBC, sur un terrain neutre, fiable et soumis à la reddition de comptes. Cette offre n’a toutefois pas été acceptée par l’entreprise, confirmant la préférence de ces géants pour des cadres de discussion fermés qu’ils contrôlent de bout en bout.
Pour aller plus loin