"Déploiement d'une IA responsable"

Quel est l’engagement de Thales pour une IA responsable ?

David Sadek / Depuis 2022, Thales s’engage, à travers sa Charte éthique du numérique, à garantir le contrôle permanent par l’humain sur les systèmes d’intelligence artificielle, conformément notamment aux recommandations du Comité d’éthique de la défense.

David Sadek / Par exemple, dans le cadre de ses activités sur l’autonomie collaborative des drones, Thales développe le concept de « Contrat d’autonomie », permettant de définir clairement les limites d’action des systèmes dans leurs missions opérationnelles.

Comment cet engagement se concrétise-t-il ?

Juliette Mattioli / Une gouvernance adaptée a été mise en place fin 2024 pour que toutes nos solutions intégrant de l’IA soient évaluées selon des critères précis d’IA responsable. 

En 2025, nous lançons une expérimentation via cortAIx Factory pour appliquer à nos premiers cas d’usage six principes essentiels :

• maintien du contrôle par l’humain ;
• transparence des systèmes ;
• prise en compte des problématiques de confidentialité dès la conception ;
• amélioration continue de la sécurité et de la résilience ;
• utilisation frugale des données ;
• lutte contre les biais dans les technologies numériques.

Juliette Mattioli / Dès la phase de R&T (Recherche et Technologie) des points de contrôle seront testés en 2025 par cortAIx Labs France lors des jalons d’approbation primaires de maturité technologique, avant les phases d’ingénierie et d’industrialisation.

De nouvelles clauses spécifiques à l’intelligence artificielle sont également en cours d’intégration dans les contrats d’achat et de sous-traitance pour assurer la conformité à la réglementation en vigueur et aux principes de la Charte éthique du numérique du Groupe.

Comment les équipes sont-elles mobilisées sur ces sujets ?

Juliette Mattioli / The Thales School of AI was created in 2019. Since then, 2,000 engineers have completed the “Basics of AI for Thales” module. The school also delivers an action learning programme called “From Concept to Use Cases”. And since 2023, close to 3,000 employees in 42 countries have been sharing experiences through the AIDA (AI, Data, Algorithmics) community.

Depuis 2019, la Thales School of AI a formé environ 2 000 ingénieurs à travers le module Basics of AI for Thales, lui-même complété par la formation-action From concept to use-cases. Depuis 2023, près de 3 000 collaborateurs dans 42 pays partagent leurs expériences via la communauté interne AIDA (AI, Data, Algorithms).

David Sadek / À titre d’exemple, l’équipe AI Friendly Hackers, au sein de cortAIx Labs France, développe des solutions pour sécuriser l’IA dans les systèmes critiques. En 2023, cette équipe a été lauréate du défi proposé par la DGA de découvrir les données qui ont servi à entraîner une IA. En 2024, à l’occasion d’un autre défi organisé par l’Agence de l’innovation de défense (AID), ces « Friendly hackers » de Thales ont notamment créé un modèle efficace de détection d'images générées par IA (deepfakes).