IA dans la défense : réconcilier la souveraineté et l’exportabilité

Parler de souveraineté de l’IA (AI sovereingty), peut évoquer chez certains la vision dystopique d’une intelligence artificielle devenue indépendante, voire même hors de contrôle. C’est un malentendu : la souveraineté dont il est question n’est pas celle de la machine elle-même… mais celle des acteurs qui en ont l’usage.

Il faut d’abord rappeler que dans le monde de l’IA, la richesse et la variété des données d’entraînement des modèles (images sonar ou radar, photographies, images satellites, vidéos, sons, documents…) sont la clé de la performance d’un outil. 

Des pays partenaires ont donc, a priori, tout intérêt à collaborer pour créer ensemble, à moindre coût, des modèles robustes et fiables. Mais il existe un risque inhérent aux modèles d'IA : ils sont sensibles à des attaques spécifiques, telles que les exemples « adversariaux » – des entrées conçues pour tromper le modèle – ou encore des attaques par rétro-engineering*, qui peuvent remonter aux données ayant servi à l’entraînement du modèle.

« En raison de ces risques sur les données, il y a aujourd'hui une grande prudence des pays exportateurs de ces technologies, dont la France, pour des raisons de défense nationale », détaille Gabriel Rangoni, vice-président Strategy & Marketing chez Thales et co-auteur du position paper « Réconcilier souveraineté et exportabilité de l’IA ». 

_{*Le reverse engineering (rétro-ingénierie), appliqué aux modèles d’IA,désigne les techniques visant à analyser le comportement, les sorties ou les paramètres d’un modèle dans le but de remonter aux données ayant servi à son entraînement.}

Or, face à des géants tels que les États-Unis ou la Chine, qui investissent d’immenses moyens dans les systèmes d’IA, la collaboration entre alliés, en particulier européens, est essentielle pour se donner une chance de rivaliser dans les années à venir. Cela implique de lever les verrous et d’instaurer de la confiance, au bénéfice de tous. 

Comme le résume Fabien Flacher, directeur Technique & Ingénierie de Thales CortAIx Factory : « Nous raisonnons par le risque : comprendre ce que redoutent les États, clarifier ces besoins, puis y répondre par des solutions d’ingénierie, qui sont notre cœur de métier. L’objectif final est de faciliter la collaboration dans le domaine de l’IA, tout en protégeant la propriété intellectuelle et le secret de chaque nation. »

Permettre un apprentissage sécurisé des modèles

Les modèles basés sur l’intelligence artificielle se distinguent par leur capacité à évoluer dans le temps, à condition d’être régulièrement entraînés avec des ensembles de données riches, diversifiés et à jour. Cela explique que la collaboration entre fabricants, pays exportateurs et pays importateurs est indispensable pour obtenir les meilleures performances. « Un modèle de détection de mines sous-marines entraîné avec des images qui sont toutes prises dans la rade du port de Toulon aurait des performances moindre qu’un système entrainé sur de nombreux fonds marins», complète Gabriel Rangoni. 

« La diversité des environnements va donner de la robustesse à l'algorithme. » 

Afin de répondre aux craintes des États à exposer certains de leurs modèles d’IA, Thales propose des méthodes pour collaborer en toute sécurité : l’apprentissage par transfert, dans lequel chaque acteur améliore de son côté un modèle d’IA pré-entraîné, sans partage de données, ou encore l’apprentissage collaboratif, dans lequel plusieurs acteurs entraînent conjointement un modèle, sans jamais centraliser d’informations sensibles.

Ces méthodes peuvent être renforcées par un ensemble de leviers de confiance : désensibilisation et anonymisation des données, garanties cryptographiques lors des échanges, mais aussi mécaniques de traçabilité tout au long du cycle de vie de l’IA. Tout cela permet d’instaurer un cadre clair et sécurisant, pour aboutir au meilleur produit possible, dans l’intérêt de toutes les parties prenantes.

Des données pertinentes et sécurisées, l’une des clefs de la confiance

La maîtrise des données est la pierre angulaire de cet édifice de souveraineté. Les données utilisées pour l’entraînement d’un modèle d’IA doivent d’abord être classées et labellisées, avec un périmètre d’accès défini précisément. Un nettoyage de la donnée (sanitization) peut être nécessaire pour des raisons de confidentialité, comme l’explique Gabriel Rangoni : « Si on nourrit un modèle d’IA avec des images issues d’un satellite militaire français, on peut faire disparaître certaines métadonnées qui renseignent sur les capacités de ce satellite, altérer légèrement les images, baisser la résolution… »

Toujours dans une optique de protection des données initiales, il est possible pendant l’entraînement du modèle d’injecter du « bruit » : autrement dit des perturbations, des fausses informations, qui rendront l’attaque du modèle plus complexe en brouillant les pistes. Comme pour la préparation de données ou le nettoyage, tout est une question d’équilibre entre la sécurité et la performance : trop de mesures de protection peuvent dégrader l’efficacité de l’algorithme, et donc la performance du produit final.

Une chaîne d’outils IA adaptée aux données critiques et à la coopération

Pour aider à trouver cet équilibre, Thales a conçu une chaîne d’outils souveraine, AIOps, conçue pour garantir une gouvernance robuste des données, l’intégrité des modèles et un réentraînement continu, même dans des environnements déconnectés ou sensibles. Ces outils représentent un appui prépondérant à toutes les étapes allant de la classification et du nettoyage des données jusqu’aux entraînements successifs des modèles, comme l’explique Gabriel Rangoni : « Nos outils permettent d’arbitrer des décisions importantes, comme par exemple : est-ce que le gain de performance au final justifie un nouvel entraînement du modèle ? Jusqu’où nettoyer les jeux de données sans altérer la performance ? »

Plus important encore, la chaîne d’outils AIOps structure la collaboration entre les nations alliées en intégrant des mécanismes de traçabilité, de watermarking (pour détecter d’éventuels usages non autorisés du modèle) et de protection contre le désapprentissage, pour une gestion évolutive des informations partagées. Le SaferLearn offre un cadre flexible pour l’apprentissage collaboratif sécurisé, permettant l’exploitation de données sensibles distribuées sans nécessiter d’entité centrale de confiance. « C’est un outil important », confirme Fabien Flacher. « Il répond à un gros danger des IA actuelles, qui est la possibilité en interrogeant le modèle de remonter aux informations d’entraînement. » Ces outils, parmi d’autres, permettent de concilier performance, coopération et contrôle souverain. 

Dans la course à la maîtrise de l’IA, une chaîne AIOps souveraine n’est pas un luxe : c’est une nécessité stratégique, malgré la complexité qu’elle implique.

Travailler ensemble, dans le respect de la souveraineté de chacun

Le position paper « Réconcilier souveraineté et exportabilité de l’IA » s’inscrit dans la continuité du travail de Thales sur l’intelligence artificielle depuis des décennies, en particulier dans le cadre des entités CortAIx, et place le respect de la souveraineté des nations tout en haut des priorités dans le domaine. 

« Dans les prochaines décennies, l’intelligence artificielle va monter en puissance et jouer un rôle majeur dans le monde de la défense », prophétise Gabriel Rangoni. « Ces IA devront être performantes et fiables, ce qui implique beaucoup de moyens mis en œuvre, de partage de certains modèles ou certaines données opérationnelles entre États. Dans ce monde-là, ceux qui acceptent de s’allier et de travailler ensemble seront plus forts. Notre objectif, chez Thales, est de proposer les moyens techniques pour le faire, en respectant la souveraineté de chacun. »