Pionnier de la sécurité de l’IA à l’ère de l’AI Act

Par Ariane Lindemann

L’introduction de la loi européenne sur l’IA impose des exigences strictes aux fabricants et aux opérateurs de systèmes d’IA afin de garantir leur sécurité, leur intégrité et leur conformité. Dans ce contexte, il est crucial de développer des solutions innovantes pour relever les défis du paysage moderne de l’IA.

Le besoin de solutions innovantes

Les fondateurs de VOIE ALIMENTAIRE, une startup de Tübingen, a reconnu l’importance de ce défi. Leur objectif est d’assurer la sécurité des systèmes d’IA. Pour ce faire, ils se concentrent sur le développement d’un pare-feu avancé qui filtre et surveille les entrées et sorties des systèmes d’IA. Ce pare-feu répond aux nouvelles exigences de sécurité de l’AI Act et accompagne les entreprises dans la mise en place d’un système de management de la qualité conforme à la norme ISO 42001. Wolfgang Glatz, fondateur de MATVIS, explique : « Notre solution se concentre sur le fonctionnement des systèmes d’IA, notamment sur le volet sécurité. Nous voulons garantir que les entreprises puissent maintenir l’intégrité de leurs systèmes d’IA tout en répondant aux exigences de la nouvelle directive.

Les défis du paysage de l’IA

Le développement de cette solution de sécurité innovante s’effectue dans le contexte d’un paysage de l’IA en évolution rapide. L’introduction de modèles de langage étendus tels que ChatGPT a mis en évidence de nouveaux risques de sécurité et renforcé la nécessité de mettre en œuvre des mécanismes de sécurité robustes. “Avec l’émergence de ChatGPT et de modèles similaires, les exigences de sécurité pour les systèmes d’IA ont considérablement augmenté”, souligne Wolfgang Glatz. « Il est crucial que les entreprises prennent des mesures de sécurité efficaces pour protéger leurs données et informations. » La solution logicielle de MATVIS arrive à point nommé. « Notre plateforme garantit la conformité de l’IA, comble les failles de sécurité et automatise les tests. Cela permet aux développeurs et aux opérateurs de créer, déployer et certifier de manière transparente des modèles d’IA fiables. » L’équipe travaille en étroite collaboration avec les organismes de certification pour fournir des informations et des services d’audit pour les aider à développer et à déployer une IA en laquelle ils peuvent avoir confiance.

Grand intérêt pour les technologies de sécurité innovantes

Compte tenu des défis croissants liés à l’introduction de systèmes d’IA, le produit de l’équipe de Tübingen suscite un grand intérêt. Bien qu’il existe déjà d’autres startups proposant des solutions de sécurité similaires, MATVIS se démarque par sa technologie unique. «Nous avons développé une technologie qui combine les fonctions de sécurité et de contrôle d’accès en une seule solution», explique Wolfgang Glatz. « Cela nous permet de mieux répondre aux exigences spécifiques de nos clients et d’offrir une valeur ajoutée qui va au-delà des pare-feu classiques. » Malgré une concurrence croissante, MATVIS est bien positionné et a déjà conquis des clients de taille moyenne. “Cependant, nos clients cibles sont de grandes entreprises où de nombreux employés interagissent avec un tel système et où des politiques appropriées doivent être mises en œuvre.”

Les mécanismes de sécurité alternatifs dans l’IA deviennent de plus en plus importants

Si les mécanismes de sécurité alternatifs pour l’IA deviennent de plus en plus importants, les mots de passe suffisent-ils encore pour contrôler l’accès aux données dans l’IA ? “Il semble obsolète d’utiliser des procédures d’authentification conventionnelles dans le contexte de “l’IA d’entreprise” car des données sensibles sont également stockées dans les modèles”, explique Wolfgang Glatz. « Nous devons proposer des solutions qui répondent aux nouvelles exigences en matière de sécurité, de conformité et de contrôle d’accès. »

Cet article a été créé en coopération avec le CyberLab Karlsruhe a créé. Le CyberLab est le point de contact central pour les startups et ceux qui souhaitent démarrer une entreprise dans le secteur informatique.

Vous êtes actuellement en train de créer votre propre entreprise et avez besoin d’aide pour démarrer ou de conseils en matière de démarrage ? Le CyberLab se fera un plaisir de vous aider. Ici vous y trouverez toutes les informations importantes.