Les idéalistes perdus dans le futur, par Ramon Aymerich

Si vous souhaitez aider ceux qui souffrent, choisiriez-vous avec votre cœur les causes que vous soutenez ou accepteriez-vous un calcul plus rationnel pour que votre impulsion profite au maximum de personnes ? Les philosophes d’Oxford William MacAskill et Toby Ord ont développé la deuxième option. Ils ont qualifié d’altruisme efficace cette façon de penser, dans laquelle le calcul coût-bénéfice et le nombre de bénéficiaires prévalent sur les sentiments.

Tout a commencé en 2009, lorsque MacAskill et Ord ont créé une organisation guidée par la philosophie de gagner pour donner (gagner pour donner). Ses membres se sont engagés à reverser 10 % de leur salaire à des activités philanthropiques. Le mouvement s’est répandu dans les universités d’élite et parmi techniciens Californiens. Les dirigeants ont encouragé leurs partisans à occuper des postes dans des organisations et à occuper de bons emplois. Les donateurs étaient jugés non pas sur leur comportement mais sur leur capacité à faire bénéficier le maximum de personnes. Mieux vaut un banquier d’investissement qu’un employé de banque.

L’altruisme efficace était une éthique adaptée à la Silicon Valley. Une philosophie qui résolvait tout avec des équations. Cela leur a permis de continuer à gagner de l’argent et de continuer à penser que seule la technologie résout les problèmes de ce monde. Cette décision a suscité l’intérêt de Peter Thiel et d’Elon Musk. Et cela a attiré Dustin Moskovitz, co-fondateur de Facebook.

En 2022, MacAskill a publié Ce que nous devons à l’avenir (Ce que nous devons au futur), un livre dans lequel il affirme qu’il ne suffit pas de s’inquiéter pour les vivants. Il fallait penser aux générations futures. Dans les millions d’êtres qui n’ont pas pu naître à cause des erreurs d’aujourd’hui. L’idée, connue sous le nom de long-termisme, reflétait la mutation inhabituelle du mouvement. Les nouveaux altruistes dédaignaient de plus en plus le présent. La crise climatique ou les maladies dans les pays pauvres sont devenues insignifiantes au regard des menaces qui pourraient conduire l’humanité à l’extinction. Notamment l’intelligence artificielle et les risques biologiques.

Mais la même année, l’accident se produit. Le croyant numéro un, le donateur idéal, le plus célèbre, a été impliqué dans un scandale financier qui a semblé donner raison aux critiques qui craignaient que les règles de l’altruisme effectif puissent conduire ses membres à des comportements antisociaux.

Sam Bankman-Fried était le fils de professeurs de droit de Stanford, des gens qui ne prenaient pas de vacances et ne célébraient pas d’anniversaires. À huit ans, Sam pensait que le Père Noël était une idée ridicule. Il a vite compris que le monde pouvait se tromper et que lui seul pouvait avoir raison. Il a étudié au MIT et est entré dans un fonds de capital-risque ( commerce haute fréquence). Il était doué dans le calcul des risques. Et il a appliqué ces techniques aux crypto-monnaies, où il a fondé FTX.

L’altruisme efficace se soucie davantage des générations à naître que des générations vivantes.

Bankman-Fried était en phase avec MacAskill dès le premier jour. Et comme il l’a avoué au journaliste Michael Lewis, la nouvelle philosophie a donné un sens à sa vie.

FTX a fait faillite en novembre 2022. Cela a laissé un trou de 8 milliards de dollars. Aujourd’hui, le financier attend une peine de prison pouvant atteindre 115 ans pour fraude et complot au sein de ce qui semble être une organisation pyramidale. Au procès, il a été décrit comme un manipulateur sans scrupules. Mais le pire était le soupçon que la philosophie du « gagner pour donner » pouvait expliquer son imprudence. Bankman-Fried avait injecté des milliards de dollars dans l’organisation.

Un autre Sam, Sam Altman, est également né dans une famille libérale et a eu une enfance intello . Il a étudié l’informatique à Stanford. A 19 ans il crée une entreprise de géolocalisation et son talent impressionne tout le monde. Lorsqu’elle fonde Open AI (créateur du chatbot d’intelligence artificielle ChatGPT) en 2014, elle est déjà une star : « Je déteste le dire, et ça paraît arrogant, mais avant Open AI, quelle a été la dernière véritable avancée scientifique qui a été révélée ? d’une entreprise de la Silicon Valley ?

Il avait lu le philosophe suédois Nick Bostrom, le prédécesseur du long-termisme. Il n’a jamais fait partie d’un altruisme efficace, mais il a été entouré. Trois conseillers d’Open AI avaient des liens avec le mouvement. L’entreprise avait été créée sur une base non lucrative pour minimiser le « potentiel destructeur » de l’intelligence artificielle.

Mais quand Altman a pris un virage plus commercial vers Open AI il y a quelques semaines, les altruistes l’ont expulsé. Ils considéraient qu’il allait trop vite et qu’il était devenu une menace. Finalement, après trois jours de guerre entre factions au sein du conseil, Altman reprit le contrôle.

Cela a été une victoire de l’argent sur le côté prudent. Et aussi une défaite douloureuse pour les nouveaux altruistes dans un domaine où ils sont devenus très influents. La guerre pour le contrôle de l’Open AI les a remis sur le devant de la scène. Elle a révélé sa capacité de pénétration et l’attrait de ses idées, notamment auprès des personnes les plus puissantes. Bostrom a été consultant auprès de la CIA et de la Commission européenne. Toby Ord a conseillé le gouvernement britannique et l’OMS et travaille sur les risques pour l’ONU.

La faillite de FTX et la guerre pour le contrôle d’Open AI ont révélé sa capacité d’influence

L’altruisme efficace est aujourd’hui un mouvement bien organisé et répandu (avec des groupes à Barcelone et Madrid). Elle a tissé un réseau de centres de recherche et de fondations qui rivalisent avec les ONG traditionnelles pour attirer des ressources. Ses membres sont des jeunes (moins de trente ans), idéalistes, instruits et convaincus qu’ils sauveront l’humanité. Leur priorité sont les êtres qui ne sont pas encore nés et qui le seront peut-être dans des milliers d’années. Cela ressemble à un film de science-fiction.