L’intelligence artificielle face à un dilemme moral : l’éthique a-t-elle un prix ?
Par Jean-Pierre Dubois, Section Économie, nouvelles-du-monde.com
SAN FRANCISCO – L’intelligence artificielle (IA) est en pleine mutation, et avec elle, un débat éthique de plus en plus pressant. Alors que les entreprises rivalisent pour développer des systèmes toujours plus performants, la question se pose de savoir si l’IA doit être dotée d’une morale pré-intégrée, et si les consommateurs sont prêts à payer pour cela.
Le cas d’Anthropic, une entreprise spécialisée dans l’IA, illustre parfaitement ce dilemme. Sa technologie Claude est conçue pour “avoir de bonnes valeurs”, une approche qui, paradoxalement, suscite des critiques. Le département de la Défense américain, par exemple, s’oppose aux limitations imposées par Claude, qui pourraient entraver des opérations sensibles comme les frappes létales autonomes ou la surveillance de masse. Cette tension, signalée vendredi dernier, pourrait mener à une impasse.
Elon Musk, fondateur de xAI et de Grok, a qualifié l’approche d’Anthropic de “misanthropique”, accusant l’entreprise de biais envers certains groupes. Sam Altman, dirigeant d’OpenAI, a quant à lui dénoncé une attitude “autoritaire”. Ces critiques ne semblent pourtant pas freiner la croissance d’Anthropic.
En réalité, la majorité de ses revenus – environ 80% – proviennent de la vente d’outils aux entreprises, qui recherchent avant tout l’efficacité et la rentabilité. La question de savoir si l’IA pourrait prendre des décisions aux conséquences graves, comme l’activation d’armes nucléaires, semble bien éloignée des préoccupations de ces clients.
Pourtant, le marché valorise l’éthique. Anthropic a récemment levé des fonds à un prix de 350 milliards de dollars et envisage une introduction en bourse. Son outil de programmation Claude Code a même ébranlé le secteur du logiciel, entraînant une perte de valeur d’un billion de dollars pour les entreprises du S&P 500. La capacité de Claude à coder en COBOL, un langage informatique obsolète mais encore utilisé dans les systèmes informatiques centraux, a ainsi fait chuter la capitalisation boursière d’IBM de 30 milliards de dollars en une seule journée.
L’intégrité d’un bot est aujourd’hui cruciale, notamment pour éviter les “hallucinations” – des réponses incohérentes ou fausses. Une étude d’Arena.ai a révélé qu’Anthropic obtenait les meilleurs résultats en matière de cohérence, tandis que certains modèles d’OpenAI figuraient parmi les moins performants.
L’enjeu se déplace avec l’essor de l’IA “agentique”, capable d’exécuter des tâches et de prendre des décisions de manière autonome. À mesure que l’IA devient plus sophistiquée et occupe des postes à responsabilités, sa capacité à gérer des situations complexes et à faire preuve de jugement sera déterminante.
En fin de compte, les entreprises recherchent chez leurs employés les mêmes qualités qu’elles attendent de l’IA : le respect des règles pour les tâches simples, et un bon jugement pour les responsabilités importantes. La question reste de savoir si une entreprise privilégiera l’éthique ou la maximisation des profits lorsque l’IA sera confrontée à un choix difficile. Un jour, une IA sera amenée à prendre une décision préjudiciable pour le monde, mais bénéfique pour les résultats financiers d’une entreprise. Un modèle qui accorde une priorité à la morale aura-t-il plus de valeur ? Dans le monde réel, une IA qui privilégie la valeur actionnariale pourrait bien être la plus performante.
Lien vers le benchmark "bullshit" d’Arena.ai
