Madrid, 11 mars (Europa Press) –
Le président de Signal, Meredith Whittaker, a mis en garde contre l’utilisation de Agents de l’intelligence artificielle (IA) Pour effectuer des tâches de la journée de l’utilisateur, ce qui peut provoquer Problèmes de sécurité et de confidentialité “profonds” en accédant librement à vos données personnelles.
Un agent d’IA est un Système ou programme capable d’effectuer des tâches de manière autonome au nom d’un utilisateur ou d’un autre système. Ainsi, les agents couvrent un large éventail de fonctionnalités au-delà du traitement du langage naturel, comme la prise de décision, la résolution de problèmes, l’interaction avec les environnements externes ou l’exécution des actions.
Par conséquent, cette technologie peut être mise en œuvre dans diverses applications pour résoudre différents types de tâches. Dans le cas de la journée de l’utilisateur, les agents peuvent être conçus pour, par exemple, Événements de programme sur le calendrier del ‘smartphone’, Billets de livre de concerts ou Envoyer des messages aux contacts automatiquement.
En ce sens, bien qu’ils représentent une avancée dans l’utilisation quotidienne de l’IA appliquée à divers secteurs, le président de la Signal Foundation, l’organisation sans but lucratif dédiée à la promotion de la communication privée accessible et sûre, Meredith Whittaker, a mis en garde contre le Risques de sécurité possibles qui ont l’utilisation de cette technologie pour les utilisateurs.
Plus précisément, Whittaker Ha a comparé l’utilisation d’agents d’IA avec “mettre le cerveau dans une bouteille”, Puisqu’ils travaillent en remplacement de manière autonome du rôle des utilisateurs dans leur base de jour à jour. De même, il a souligné que la laisse l’IA effectuer des tâches au nom des utilisateurs conduit à “un profond problème” de confidentialité et de sécurité par rapport à leurs données.
Cela a été détaillé par le président de la Fondation, propriétaire du Social Messaging Social Network Signal Messenger, lors d’une conférence tenue dans le cas de l’événement Sud par le sud-ouest (SXSW) tenue dans la ville d’Austin (Texas, États-Unis), dont la participation a été collectée par TechCrunch.
Comme l’a expliqué Whittaker, de sorte que les agents de l’IA fonctionnent de manière autonome et effectuent les tâches pour lesquelles ils sont prévus, ils ont Accès à toutes les données personnelles qui gérent dans différentes applications dans lequel ils sont mis en œuvre.
De plus, si l’agent d’IA est entraîné par un Modèle “assez puissant”, cela sera exécuté sur un serveur cloud Parce que “il n’y a aucun moyen que cela se produise sur un appareil”, ce qui implique l’externalisation des données des utilisateurs avec lesquels ils travaillent.
“Il est presque certain qu’il sera envoyé à un serveur cloud où il sera traité et renvoyé“, Il a nuancé Whittaker, tout en soulignant que, par conséquent, “il y a un problème profond avec la sécurité et la confidentialité” par rapport à l’utilisation d’agents et de données utilisateur.
“Il devrait être possible d’exécuter le processus dans tout le système avec quelque chose de similaire à un permis de« racine », Accédant à chacune de ces bases de données, probablement clairement, car il n’y a pas de modèle pour le faire de manière cryptée “, la directive a apprécié.
Avec tout cela, Whittaker a déclaré que l’utilisation d’agents d’IA et de problèmes de sécurité connexes “Ils menacent de briser la barrière du cerveau sanguin entre la couche d’application et la couche du système d’exploitation”, “ Donner l’IA à toutes les données stockées sur l’appareil, aussi pertinentes.
Appliqué à la Signal Messenger ‘App’Whittaker a assuré que si un agent d’IA est intégré, détruirait la confidentialité des messages des utilisateursun facteur caractéristique de cette application. En effet, comme il l’a expliqué, l’agent doit accéder à l’application, par exemple, pour envoyer des messages texte à d’autres contacts. De la même manière, vous devez également Extraire les données pour effectuer des actions telles que le résumé des messages.
Étant donné que tout ce Whittaker a conclu qu’avec la mise en œuvre massive des agents de l’IA, la vie privée et la sécurité des personnes seraient encore blessées pour promouvoir “un Robot de génie magique qui traitera les exigences de la vie. “
#Meredith #Whittaker #Signal #met #garde #contre #les #problèmes #sécurité #confidentialité #par #les #agents #lIA
