L’Europe inaugure son outil pour ouvrir les boîtes noires des algorithmes d’Internet | Technologie

María et Alejandra utilisent le même réseau social, cependant, le contenu auquel elles accèdent est très différent. Tout dépend des informations qu’ils saisissent dans leurs recherches, avec ces données les moteurs de recherche peuvent proposer des contenus tellement hyper-personnalisés qu’ils peuvent créer des réalités tellement différentes pour chacun d’entre eux, avec des risques supplémentaires pour eux comme pour l’utilisateur. de la société. Il s’agit d’un cas pratique sur lequel travaille déjà l’équipe multidisciplinaire de travailleurs du Centre européen pour la transparence algorithmique (ECAT), qui est officiellement inauguré ce mardi à Séville et est appelé à devenir le principal outil de la Commission européenne pour garantir que le grand numérique les plateformes respectent les principes garantissant le bon fonctionnement et le contrôle des contenus illégaux et préjudiciables sur Internet contenus dans le directive sur les services numériques, entré en vigueur en novembre dernier.

Les mécanismes de transparence établis dans la DSA et les grandes plateformes numériques (celles comptant plus de 45 millions d’utilisateurs et représentant 10 % du marché européen potentiel), qui obligent leurs propriétaires à identifier et contrôler les risques de leurs systèmes algorithmiques, auraient pu alerter María et Alejandra. Vérifier que les géants de l’internet procèdent correctement à cette auto-évaluation et anticiper toute possibilité d’y échapper sera l’une des fonctions principales de l’ECAT. Le centre a l’énorme responsabilité d’ouvrir les boîtes noires des systèmes algorithmiques, de les décrypter et de s’assurer qu’ils répondent aux critères de la réglementation européenne.

“C’est un grand pas car il y a une attente énorme, puisque nous montrons au monde que l’application des normes finit par faire la différence sur le terrain et que cela peut changer l’attitude des grandes plateformes, qu’elles doivent assumer leur responsabilité sociale et ne se contentent pas de rechercher la croissance de leur entreprise », déclare un haut fonctionnaire de la Commission impliqué dans la mise en œuvre de l’AVD. Les algorithmes et leur utilisation font l’objet de débats dans de nombreux domaines, la différence que fait l’ECAT est que ses recherches sont menées dans le but d’appuyer les services juridiques de la Commission pour s’assurer que la réglementation est respectée.

L’ECAT est basé au siège de la Centre commun de recherche (CCR) que la Commission possède à Séville. À l’heure actuelle, il compte 10 experts dans différents domaines liés non seulement à l’informatique, à l’intelligence artificielle ou au Big Data, mais également à des disciplines à caractère social, car l’un des objectifs est de détecter que les grandes entreprises et les moteurs de recherche respectent les obligations liées à la protection des enfants, que la violence de genre n’est pas incitée ou que le contenu ne présente pas de risque pour la santé mentale. L’objectif est que dans les mois à venir l’équipe s’élargisse à 30 spécialistes et que dans une deuxième phase elle passe à 40.

Outre la mission de contrôle de la documentation que les géants de l’internet leur fournissent sur leur auto-évaluation, qui est préalablement auditée par une société tierce, l’ECAT peut également déclencher des enquêtes par le biais de plaintes de tiers ou lorsqu’il détecte que le respect de la DSA . Toutes ces informations serviront à pouvoir armer des poursuites judiciaires contre ces entreprises au cas où il y aurait des preuves de mauvaises pratiques. Cependant, la Commission tient à préciser que l’ECAT ne prétend pas être un “ministère de la vérité”. “Si nous détectons qu’un contenu illégal est hébergé ou acheminé ou que de fausses informations sont distribuées et qu’elles ne sont pas supprimées et corrigées, nous pouvons prendre des mesures. La charge de prouver qu’ils n’agissent pas correctement incombe aux entreprises”, déclare le responsable. En ce sens, Bruxelles travaille à établir les paramètres pour que les grandes entreprises puissent réaliser leurs auto-évaluations des risques dans des matières telles que la vie privée, la protection de la santé mentale…

Dans cette tâche d’ouverture des boîtes noires, il y a trois étapes de transparence que les grandes plateformes et les moteurs de recherche doivent atteindre. Le premier atteint l’utilisateur moyen. “Les entreprises doivent avertir dans une langue que les mineurs qui accèdent à leurs réseaux sont capables de comprendre, afin qu’elles puissent leur offrir de meilleures options de navigation”, explique un autre responsable de l’ECAT. “Cela donne plus de capacité et de puissance à l’utilisateur.” Le deuxième niveau est celui qui concerne la société civile, les experts, les ONG… — « cela nous offrirait une sorte de rapports d’information et de diffusion pour les experts », dit le technicien―. Le deuxième niveau montre le paramètre prospectif qui chevauche également l’ECAT. Le nouveau centre veut servir de pont entre les universités -universités et groupes de recherche- et les entreprises privées -accords qui restent à définir-.

Le troisième niveau est le plus important pour les chercheurs. Cela implique d’entrer dans les entrailles de l’algorithme et afin d’enquêter et d’y accéder, la Commission peut nommer des experts ou des auditeurs.

Les conclusions des investigations sur le fonctionnement des systèmes algorithmiques et leur impact seront également partagées avec le public, poursuivant l’impulsion de diffusion qui correspond également à l’ECAT, mais aussi avec la volonté de pouvoir dépeindre le comportement des grandes entreprises . La Commission évite d’aborder les éventuelles frictions ou désaccords qui peuvent survenir avec les géants de l’internet, habitués à concourir dans un environnement plus dérégulé comme les États-Unis, et préfère l’aborder comme une opportunité d’améliorer leur image et d’instaurer la confiance en offrant des opportunités dans le monde numérique.

L’ECAT, main dans la main avec les experts, est appelé à devenir le bras armé de la Commission non seulement pour comprendre et démêler le fonctionnement des systèmes algorithmiques pour prévenir et éviter les effets indésirables, mais aussi pour garantir, par la transparence, que ce qui est illégal dans la vraie vie, donc c’est illégal sur les réseaux sociaux.

Vous pouvez suivre LE PAYS Technologie dans Facebook y Twitter ou inscrivez-vous ici pour recevoir nos bulletin d’information sémanal.