Confidentialité et sécurité, l’IA générative est en danger

Cisco Étude comparative sur la confidentialité des données 2024 révèle qu’une entreprise sur quatre interdit l’utilisation de l’IA générative en raison de risques en matière de confidentialité et de sécurité des données. La confidentialité est bien plus qu’une simple question de conformité réglementaire. Ceci est souligné par la septième édition du rapport Cisco qui a impliqué 2 600 professionnels de la confidentialité et de la sécurité dans 12 zones géographiques. Parmi les principales préoccupations exprimées par les personnes interrogées figuraient les menaces liées aux droits et à la propriété intellectuelle de l’entreprise et le risque de divulgation d’informations au public ou aux concurrents.

Problèmes de confidentialité et de sécurité

Dev Stahlkopf, directeur juridique chez Cisco
Les organisations considèrent GenAI comme une technologie pleine de défis. Plus de 90 % des personnes interrogées pensent que GenAI nécessite nouvelles techniques pour la gestion et la sécurité des données et des risques. C’est là qu’une gouvernance prudente entre en jeu. La confiance des clients est en jeu.

La situation en Italie

En Italie, 38 % des personnes interrogées déclarent avoir saisi des informations sensibles, notamment des informations sur les salariés et l’entreprise. La plupart des organisations sont conscientes de ces risques et mettent déjà en place une politique de contrôle pour limiter les éventuels dégâts. 51% des organisations italiennes ont établi des limites aux données pouvant être saisies. Tandis que 51 % ont imposé des limites aux outils GenAI pouvant être utilisés dans l’entreprise. Enfin, 21 % déclarent avoir complètement interdit les applications GenAI, du moins pour le moment.

IA générative et transparence

je consommateurs ils continuent de s’inquiéter de l’utilisation de leurs données par l’IA. En fait, 91 % des organisations reconnaissent qu’elles doivent faire davantage pour rassurer leurs clients sur l’utilisation légitime et transparente de leurs données. Cependant, les entreprises et les utilisateurs finaux ont des priorités différentes. Les premiers indiquent le respect des lois sur la vie privée (25 %) et la prévention des violations de données (23 %) comme leurs principales priorités. Les consommateurs exigent plutôt des informations claires sur la manière dont leurs données sont utilisées et demandent qu’elles ne soient pas vendues à des fins de marketing.

L’importance des certifications et des lois

Harvey Jang, vice-président et directeur de la confidentialité de Cisco
94 % des personnes interrogées déclarent que les clients n’achètent que si leurs données sont correctement protégées. Les consommateurs recherchent des preuves concrètes que l’organisation est digne de confiance. La confidentialité est intrinsèquement liée à la confiance et à la fidélité des clients. Cela est encore plus évident dans le domaine de l’IA, où investir dans la protection de la vie privée permet aux organisations d’agir de manière éthique et responsable.

Les lois sur la confidentialité et leur impact

Malgré les coûts et les exigences associés aux lois sur la protection de la vie privée, 80 % des personnes interrogées dans le monde estiment que les lois sur la protection de la vie privée ont eu un impact positif. Bien que le respect de ces lois implique souvent des efforts et des coûts importants. Les gouvernements et les entreprises commencent à mettre en place le exigences de localisation au sein du pays ou de la région. Cela vous permet de cataloguer les données, de conserver des enregistrements des activités de traitement, de mettre en œuvre les contrôles nécessaires et de répondre aux demandes des utilisateurs. La plupart des entreprises estiment que leurs données sont plus sécurisées lorsqu’elles sont stockées dans leur propre pays ou région.

Problèmes de confidentialité et de sécurité : un investissement précieux

Au cours des cinq dernières années, les dépenses consacrées à la protection de la vie privée ont plus que doublé, les bénéfices ont augmenté et le retour sur investissement a été plus que positif. 95% (88% en Italie) déclarent que les bénéfices découlant d’une bonne gestion de la vie privée dépassent les coûts encourus. Ils estiment, en moyenne, un rendement égal à près de 1,6 fois l’investissement réalisé, en Italie ce chiffre s’élève à 1,7. En 2023, les grandes organisations ont augmenté leurs performances par rapport à l’année dernière frais pour la confidentialité autour de 8%. Tandis que les petites organisations ont vu leurs investissements diminuer. Par exemple, les entreprises comptant entre 50 et 249 employés ont réduit leurs investissements en matière de confidentialité de 25 % en moyenne.