Cybersécurité et régulation de l’intelligence artificielle, en débat

La journée a été inaugurée par le maire de la ville, Natalia Chueca, qui a souligné les efforts de son administration pour numériser certains services publics. Entre autres projets, Chueca prévoit de lancer un service d’IA générative basé sur ChatGPT pour aider les habitants de Saragosse obtenir des informations locales ou effectuer des démarches administratives. “Nous cherchons à moderniser les services de la Mairie pour les adapter à la fourniture de services par voie numérique”, a expliqué le maire.

Francisco Hortigüela, PDG d’INBusiness 5.0, a donné une présentation inspirante dans laquelle il a parlé de l’importance d’apprendre à utiliser les outils d’IA. «Le risque n’est pas qu’une IA prenne votre travail, mais plutôt pas la formation. Le risque est que quelqu’un d’autre qui a été formé prenne votre poste”, a déclaré Hortigüela lors de l’événement qui a Telefónica comme partenaire mondial, avec Santander et Universae comme partenaires officiels et avec la collaboration de la Mairie de Saragosse.

En ce qui concerne le règlement sur l’IA approuvé par le Parlement européen, Esther Checa Gutiérrez, directeur de l’innovation chez T2Ó, a proposé d’aborder la nouvelle réglementation à partir d’un cadre éthique. «Les grandes entreprises doivent travailler du côté éthique de l’IA, parce qu’ils développent les modèles que les gens vont utiliser », a-t-il déclaré.

Pour sa part, Manuel J. Gazapo Lapayese, directeur des relations institutionnelles chez Universae, s’est montré favorable à la régulation de l’IA, mais surtout à la recherche de cadres d’action garantissant la vérification des informations présentées par ces outils. “L’Europe est le seul acteur international qui adopte les nouvelles technologies, mais qui exige leur réglementation”, a déclaré Gazapo Lapayese.

Concernant les questions de sécurité, les quatre intervenants de la table ronde «Les grands enjeux de l’IA : Inclusion, éthique et cybersécurité», animé par un journaliste Juan Carlos Fernández Galindo, Ils ont également exprimé leur inquiétude quant au fait que ces outils pourraient approfondir des problèmes existants tels que la désinformation via des systèmes tels que les « deepfakes », une technique de synthèse d’images humaines basée sur l’intelligence artificielle. «La désinformation, l’un des grands problèmes de notre société, “pourrait être alimenté à l’avenir par les ‘deepfakes'”, a-t-il déclaré. Paula Ortiz, avocat et conseiller exécutif expert en régulation numérique et politiques publiques. Pour contrecarrer cette situation, Gonzalo Perán Pérez, Le directeur technique d’Aiuken a également exprimé son soutien aux enfants qui commencent à apprendre dès le plus jeune âge comment fonctionnent ces outils.

La journée a été suivie d’un deuxième panel intitulé « Plus d’un siècle d’IA, des algorithmes aux chatbots », animé par Alberto Velázquez, journaliste et collaborateur d’ABC. Cette table de dialogue a été démarrée José Carrancejaexpert en stratégie de données et en IA, parlant des opportunités qu’apporte cette nouvelle technologie, mais aussi de la réticence historique des êtres humains à s’adapter au changement. Ludi Garcia, directeur d’Iberia chez Marco Comunicación, a expliqué le cas d’une édition de la revue « Executives » initialement rédigée par une IA, comprenant des entretiens avec des personnages historiques. Cette expérience, a-t-il expliqué, a démontré la nécessité pour les humains de corriger les erreurs stylistiques de l’IA, mais aussi d’éditorialiser et de donner un sens au magazine, tâches que la technologie ne peut pas accomplir.

Finalement, Gil Lizasoain, de Telefónica Tech, a expliqué que pour le développement de solutions d’IA, ils recrutent des spécialistes non seulement ayant une expérience en matière de données, mais également des connaissances en sociologie, linguistique ou médecine. L’événement a été clôturé par Carlos Giméno, Ministre de l’Économie, de la Transformation numérique et de la Transparence de la Mairie de Saragosse.