Instagram et Facebook : L’algorithme et ses mécontentements | Entreprise

Dans un nouveau procès aux États-Unis contre Meta, 41 États et le District de Columbia soutiennent que deux des réseaux sociaux de l’entreprise (Instagram et Facebook) créent non seulement une dépendance, mais sont également nocifs pour le bien-être des mineurs. Meta est accusé d’avoir mis en œuvre un « plan visant à exploiter les jeunes utilisateurs à des fins lucratives », qui consiste notamment à leur montrer du contenu préjudiciable qui les maintient collés à leurs écrans. L’utilisation d’algorithmes conçus pour maximiser l’engagement des utilisateurs est le moyen utilisé par les entreprises technologiques pour maximiser la valeur actionnariale, avec pour résultat que les bénéfices à court terme l’emportent souvent sur les objectifs commerciaux à long terme.

Facebook a commencé comme un service de base pour connecter des amis et des connaissances sur Internet, mais au fil du temps, sa conception a évolué, passant de la satisfaction des besoins et des préférences des utilisateurs à leur maintien au sein de la plateforme et à l’écart des autres. Pour atteindre cet objectif, l’entreprise a ignoré à plusieurs reprises les préférences explicites des consommateurs concernant le type de contenu qu’ils souhaitent consulter, la confidentialité et le partage de leurs données.

La primauté du profit immédiat consiste à inciter les utilisateurs à cliquer, même si le résultat global de cette stratégie est de donner la priorité aux contenus sensationnels de mauvaise qualité, plutôt que de donner leur dû à un univers plus large de créateurs de contenu, d’utilisateurs et d’annonceurs. Nous appelons ces profits des « rentes algorithmiques de l’attention », car ils sont générés par la possession passive (comme celle des propriétaires fonciers) au lieu d’une activité productive visant à satisfaire les besoins des consommateurs.

Identifier le comportement des rentiers dans l’économie actuelle nécessite de comprendre comment les plateformes dominantes exploitent le contrôle algorithmique qu’elles exercent sur les utilisateurs. Un algorithme qui dégrade la qualité des contenus qu’il promeut abuse de la confiance des utilisateurs et de la position dominante renforcée par l’effet réseau. C’est ainsi que Facebook, Twitter et Instagram peuvent réussir et continuer à remplir leurs pages de publicités et de contenus addictifs recommandés.

Le procès contre Meta concerne, en fin de compte, ses pratiques algorithmiques, conçues pour maximiser l’engagement des utilisateurs : les maintenir plus longtemps sur la plateforme et provoquer plus de commentaires, aime et rééditions. Il arrive souvent qu’un bon moyen d’y parvenir soit d’afficher des contenus nuisibles et à la limite de l’illégalité, et de transformer le temps passé sur la plateforme en une activité compulsive, grâce à des fonctionnalités telles que le défilement infini et l’envoi incessant de notifications et d’alertes.

Alors que les progrès de l’intelligence artificielle (IA) commencent à renforcer les recommandations algorithmiques et à les rendre encore plus addictives, de nouvelles structures de gouvernance orientées vers le bien commun (plutôt qu’une idée étroite de la valeur actionnariale) et des alliances sont nécessaires de toute urgence. , les gouvernements et la société civile. Heureusement, il est à la portée des autorités de réformer ces marchés pour les mettre au service du bien commun.

Premièrement, au lieu de s’appuyer exclusivement sur la législation antitrust et sur la concurrence, les autorités devraient adopter des outils technologiques qui empêchent les plateformes d’enfermer les utilisateurs et les développeurs. Une façon d’éviter la création de silos anticoncurrentiels consiste à exiger la portabilité des données et l’interopérabilité entre les services numériques, afin que les utilisateurs puissent facilement passer d’une plateforme à une autre si celle sur laquelle ils se trouvent ne répond pas à leurs besoins et préférences. Deuxièmement, une réforme de la gouvernance d’entreprise est essentielle, puisque ce qui a conduit les plateformes à l’exploitation algorithmique des utilisateurs, c’est le principe de maximisation de la valeur actionnariale. Compte tenu des coûts sociaux bien connus de ce modèle économique, la réforme de la gouvernance nécessite une réforme des algorithmes.

Une première étape vers la création d’un modèle de référence plus sain consiste à exiger des plateformes qu’elles divulguent les mesures ciblées par leurs algorithmes, ainsi que la manière dont elles monétisent les utilisateurs. Dans un monde où les dirigeants du secteur technologique se rendent chaque année à Davos pour parler du « but » social de leurs entreprises, une publication de données crédibles les poussera à se montrer à la hauteur de ce qu’ils disent et aidera les régulateurs et les investisseurs à faire la distinction entre les bénéfices mérités et les revenus irréguliers.

Troisièmement, les utilisateurs doivent avoir plus d’influence sur la manière dont les algorithmes hiérarchisent les informations qui leur sont présentées. Dans le cas contraire, le mépris des préférences des utilisateurs continuera à causer des dommages, car les algorithmes créent des boucles de rétroaction dans lesquelles ils incitent les utilisateurs à cliquer sur certains contenus et en déduisent ensuite à tort que ce sont leurs préférences.

Quatrièmement, la méthodologie standard du secteur des « tests A/B » doit céder la place à des évaluations d’impact à long terme plus complètes. Une mauvaise utilisation de la science des données conduit à un court-termisme algorithmique. Par exemple, un « test A/B » peut montrer que l’augmentation du nombre de publicités affichées aura un effet positif à court terme sur les bénéfices sans entraîner une détérioration évidente de la fidélisation des utilisateurs ; Mais cela ne tient pas compte de l’impact sur l’acquisition de nouveaux utilisateurs, sans parler de presque tous les autres effets potentiellement néfastes à long terme. La science des données bien utilisée montre que l’optimisation des systèmes de recommandation sans rechercher de récompense immédiate est le meilleur moyen pour les entreprises de soutenir leur croissance et leur rentabilité à long terme. En 2020, une équipe de Meta a déterminé que sur un horizon plus long (un an), la réduction du nombre de notifications intrusives améliorerait l’utilisation des applications et la satisfaction des utilisateurs.

Cinquièmement, l’IA publique doit être mise en œuvre pour évaluer la qualité des résultats des algorithmes, notamment dans le domaine de la publicité. Face aux dégâts considérables causés par l’assouplissement des critères d’acceptation des publicités par les plateformes, l’autorité britannique en charge du contrôle de la publicité va commencer à utiliser des outils d’IA pour analyser les publicités et identifier celles qui font des “affirmations” douteuses.

Créer un environnement numérique qui récompense la création de valeur issue de l’innovation et punit l’extraction de valeur par les rentiers est le défi économique fondamental de notre époque. Pour préserver la santé des grands utilisateurs de technologies et de l’ensemble de l’écosystème, il faut éviter que les algorithmes soient subordonnés au désir de profits immédiats des actionnaires. Si les dirigeants d’entreprise croient réellement au principe de valeur pour les parties prenantes, ils doivent accepter qu’un changement radical dans la manière dont la valeur est créée est nécessaire, sur la base des cinq principes détaillés ci-dessus. Le procès imminent contre Meta ne pourra pas réparer les erreurs du passé. Mais alors que nous nous préparons à la prochaine génération de produits d’IA, nous devons instituer des mécanismes pour une surveillance appropriée des algorithmes.

Suivez toutes les informations Économie oui Entreprise dans Facebook oui Xou dans notre bulletin d’information semanal

_