IA de confiance : un cadre et une boussole

À première vue, la course à l’intelligence artificielle est une simple course à la performance : on cherche, pour une tâche donnée, le modèle le plus puissant, le plus efficace, le plus sobre en énergie, le plus adaptable, nourri avec les données les plus récentes, au nom de l’efficacité et, in fine, de la compétitivité. Mais le sujet ne se résume pas à un défi technologique et commercial : concevoir des outils IA compétitifs est indispensable, mais ne permet pas d’inspirer la confiance. Les rendre fiables, transparents, robustes et responsables si. Dans les secteurs critiques, l’IA ne s’imposera pas seulement par ce qu’elle sait faire, mais par la confiance qu’on pourra lui accorder. C’est un pari de long terme, entre responsabilité et innovation. 

Chez Thales, cette conviction ne date pas d’hier. Le Groupe conçoit depuis longtemps des systèmes critiques dans de nombreux domaines (aéronautique et spatial, cybersécurité et identité numérique, défense et sécurité civile) qui doivent rester fiables dans la durée, et dont chaque décision doit pouvoir être retracée. Dès 2019, la démarche de Thales baptisée TRUE AI (Transparent, Reliable, Understandable, Ethical AI) visait à anticiper les futurs changements liés à l’intelligence artificielle, en ligne avec les valeurs de l’entreprise. À partir de 2020, la création du programme confiance.ai, avec de grands industriels comme Airbus, Naval Group et Renault allait dans la même direction, tout comme l’adoption de la charte éthique du numérique de l’entreprise en 2022. 

« Depuis qu’on fait de l’IA, la question de la confiance est intégrée dans tous nos travaux », rappelle Kalina Genet, consultante Data et IA chez Thales : « S’assurer que les IA sont fiables, sécurisées, prendre aussi en compte l’impact humain et l’acceptabilité sociale de ces nouveaux outils… Ce n’est pas une question nouvelle pour nous ». Cette exigence de confiance est un préalable au déploiement de l’IA à grande échelle, à plus forte raison dans les systèmes critiques. Dans ces environnements, son intégration implique la prise en compte de nombreuses contraintes : complexité des systèmes, niveaux très élevés de fiabilité et de disponibilité, embarquabilité avec des ressources limitées en taille, poids et énergie, ou encore connectivité intermittente, à faible bande passante, voire contestée (brouillage). 

Une complexité que Thales maîtrise déjà à l’échelle industrielle.

Les quatre piliers de la confiance

Le position paper « L’IA de confiance : les fondamentaux » détaille les quatre piliers indissociables qui permettent cette confiance dans les outils IA. Le premier, la validité, vise à garantir que le système accomplit bien la mission qui lui est assignée, dans son intégralité, sans aller au-delà, et dans les conditions prévues. Le deuxième, la sécurité, désigne sa capacité à résister aux cyberattaques ou aux tentatives de manipulation. La transparence et explicabilité doivent permettre de comprendre un résultat et de retracer la chaîne qui l’a produit. Enfin, la responsabilité impose le respect des cadres éthiques, juridiques et réglementaires (tels que les règles de confidentialité des données et de protection des informations sensibles), en contrôlant et réduisant les risques y compris sociétaux et environnementaux. 

Sur le volet sécurité, « Thales dispose d’une double expertise en intelligence artificielle et en cybersécurité : nous nous développons des technologies pour sécuriser les systèmes d’IA face aux nouvelles menaces, tout en exploitant les capacités de l’IA pour renforcer la cybersécurité », ajoute David Sadek.

La confiance appliquée aux systèmes de défense

Un domaine vient immédiatement à l’esprit lorsqu’on évoque l’IA de confiance : celui du monde militaire, une part importante des activités de Thales, où des décisions prises avec l’IA peuvent avoir des conséquences immédiates sur la mission et, in fine, sur des vies humaines. « La détection de cible par le pod Talios (une nacelle de ciblage et de guidage par laser, qui équipe les avions chasse Rafale) aboutit à des décisions critiques : on ne peut pas se permettre de ne pas avoir confiance dans le système », détaille Thomas Delavallade, AI Strategic Technical Authority chez Thales services numériques (TSN) et co-auteur du position paper. 

Contrôle aérien : Singapour fait le choix de NexGen

Le contrôle aérien est l’un des domaines où l’apport de l’IA paraît le plus évident… et le besoin de confiance aussi. À chaque instant, les contrôleurs doivent croiser une masse considérable d’informations – trajectoires, évolution de la météo, état de l’espace aérien – et arbitrer dans un temps très court. L’IA peut les aider à repérer un conflit potentiel et à dégager, dans le flux de données, les éléments qui réclament leur attention. Elle allège ainsi leur charge de travail… mais cette assistance n’est acceptable que si ses recommandations sont fiables, compréhensibles, traçables. Ici aussi, une erreur peut mettre des vies humaines en jeu.

C’est cette exigence qui sous-tend NexGen, le système de gestion du trafic aérien développé par Thales, qui vient d’être choisi par Singapour. Équipé d’intelligence artificielle, il optimise les flux d'arrivées et de départs des aéronefs, réduisant les retards, la consommation de carburant et les émissions de carbone. Le choix de Singapour en apporte la preuve concrète : dans un domaine aussi critique, l’IA ne pouvait s’imposer sans offrir de solides garanties de fiabilité et de sûreté. Autrement dit, des garanties de confiance.

Le biais d’automatisation : un risque à prendre en compte

Autre secteur pour lequel la confiance est décisive : la maintenance des centrales nucléaires. Thales accompagne EDF avec des outils enrichis par l’IA, capables d’exploiter de grandes quantités de données, pour assister les opérateurs de maintenance des centrales. Mais leur efficacité peut créer un risque en soi, comme l’explique Thomas Delavallade : 

 « Une des problématiques des agents IA, qui sont de plus en plus performants, c’est qu’ils créent un biais d’automatisation : le système fonctionne sans problème, les performances sont bonnes, et, avec le temps, l’humain vérifie de moins en moins ce que lui propose la machine. » 

Le jour où l’outil se trompe, rencontre une situation inhabituelle, est-ce que l’opérateur humain saura reprendre la main ? Ce problème est bien identifié chez Thales, et pris en compte lors de la conception des outils. Il pose aussi, en creux, la question de maintenir des compétences humaines dans un monde qui, à l’avenir, sera largement assisté par l’intelligence artificielle.

La confiance, une affaire collective

Fiabilité, sécurité, transparence, conformité, durabilité…  La confiance en l’IA se conquiert à tous les niveaux, depuis la conception des outils jusqu’à leur utilisation en contexte opérationnel. Loin d’agir en vase clos sur le sujet, Thales confronte ses méthodes à celles d’autres industriels, de laboratoires et d’institutions, dans des ateliers et des programmes communs. Les travaux de confiance.ai se poursuivent à l’échelle européenne, à travers la European Trustworthy AI Association et le programme CSIA (Confiance dans les Systèmes d’IA). L’ambition : préparer les prochains défis liés à l’IA générative, à la cybersécurité et à l’hybridation de l’IA (IA combinant par exemple l'apprentissage automatique et le raisonnement logique).

Cette coopération vise aussi à l’établissement des futures normes. Dans l’aviation, Thales travaille au sein du WG-114 d’EUROCAE avec Airbus, Collins Aerospace, des laboratoires, l’EASA et la FAA pour définir un cadre adapté à l’usage de l’IA dans un secteur où les exigences de certification sont particulièrement élevées. Le Groupe a également participé aux travaux du CEN-CENELEC, qui élabore des normes technologiques communes à l’échelle européenne. Dans la défense, Thales participe à la Communauté Thématique de Normalisation pour la Défense (CTND), sous l’égide de l’AMIAD et de la DGA, afin d’accélérer le déploiement de l’IA dans les systèmes militaires français. Enfin, sur l’IA frugale, le Groupe participe à la rédaction de la spécification AFNOR/Ecolab Spec 2314.

Dans un contexte de révolution profonde liée à l’IA, personne ne peut prétendre construire seul les garanties de la confiance. C’est une démarche collective, évolutive, basée sur un socle de valeurs partagées, qui permettra de déployer à l’avenir une IA éthique et responsable, performante mais toujours au service de l’humain.