[#IA DE CONFIANCE] Sécuriser les systèmes d’IA contre les cyberattaques 🔎 Cet objectif, essentiel pour les experts de la cybersécurité, est le sujet du guide réalisé par le Campus Cyber, en partenariat avec le Hub FranceIA, et dévoilé lors du #ForumInCyber (du 1 au 3 avril derniers à Lille). Riche en solutions pratiques, le document est l’aboutissement du travail d’une équipe de 26 personnes, parmi lesquelles le général Patrick PERROT, (Gendarmerie Nationale et Commandement de la cyberdéfense (COMCYBER)), Francoise Soulie-Fogelman (Hub France IA) et Aurélien Mayoue (CEA-List). Face à la difficulté à détecter et à neutraliser les attaques sur les systèmes reposant sur l'IA, les recommandations s’appuient sur deux volets : 👉 mesures de prévention issues de la cybersécurité classique ; 👉stratégies spécifiquement adaptées aux IA. Il insiste sur l’évaluation exhaustive des modèles open source et, pour contrer l’empoisonnement des données, recommande d'entraîner les systèmes à reconnaître les données malveillantes. Les nombreuses recherches menées par les équipes du #CEA-List, dans le cadre de projets, nationaux (e.g. #Redeem du PEPR IA ou #Compromis du PEPR Cybersécurité) ou européens (e.g. KINAITICS Horizon Europe Project), contribuent activement à étendre les connaissances scientifiques et à développer les solutions techniques utiles à l’application des recommandations de ce rapport. 🕶️ Lire : Analyse des attaques sur les systèmes de l’IA 👇 https://lnkd.in/eh2PkWjX Cedric Gouy-Pailler, Cédric Auliac, Patricia Mouy, Vincent Cachard, Rachael GODT, Diane Bahrami CEA | Le Réseau des Carnot | Université Paris-Saclay | Université Grenoble Alpes
