Outils de développement d'applications d'IA

Il existe un besoin de systèmes d'IA explicables, compte tenu de la nécessité de l'utiliser dans les systèmes critiques pour la sécurité. Cependant, les méthodologies de type « boîte noire », telles que les réseaux de neurones à apprentissage profond (DLNN), constituent actuellement les principales approches d'IA étudiées. Des travaux approfondis ont été menés pour rendre les réseaux de neurones plus explicables et fiables, et des progrès ont été réalisés. Cependant, ces travaux reposent principalement sur la création d'un second système pour tenter d'expliquer l'IA de type « boîte noire ».

De plus, la recherche sur l'IA de type « boîte noire » ne s'étend pas à l'interprétabilité, condition essentielle pour exploiter pleinement le potentiel des capacités de vérification formelle. La technologie GFT de Thales est une solution d'IA et de Machine Learning intrinsèquement compréhensible, fiable et vérifiable formellement.

La vérification formelle utilise des méthodes rigoureuses pour spécifier, concevoir et analyser les systèmes, garantissant ainsi que les algorithmes respectent les spécifications de sécurité définies. L'une des principales caractéristiques de la boîte à outils IA de Thales est sa capacité à garantir mathématiquement le respect de ces contraintes.
Ces spécifications peuvent inclure des exigences de conception, des procédures standard ou des règles opérationnelles, par exemple : « L'IA ne doit jamais ___ » ou « Si les conditions sont ___, la sortie doit rester dans les limites de ___ ».
De nombreuses défaillances dans les secteurs de l'aérospatiale et de la défense auraient pu être évitées grâce à la vérification formelle.
Thales intègre ces outils directement au processus de développement de l'IA GFT. En cas de problème, des données d'entrée et des traces intermédiaires sont fournies. Grâce à la nature interprétable de l'arbre flou, les corrections peuvent être apportées clairement pendant le développement, avec une visibilité totale sur leur impact.
La boîte à outils IA de Thales allie tests numériques et vérification formelle pour garantir un système d'IA hautement fiable.

Les systèmes d'IA sont désormais capables de performances surhumaines dans des domaines tels que le contrôle des véhicules autonomes, la prise de décision, la planification et l'analyse prédictive. Cependant, leur adoption dans les applications critiques pour la mission et la sécurité a longtemps été freinée par un manque de confiance et d'explicabilité.
La boîte à outils IA de Thales répond à ce défi en permettant le développement de systèmes d'IA hautes performances, entièrement fiables et explicables, les rendant ainsi adaptés à un déploiement critique. Cette avancée ouvre des opportunités éthiques et « first to market » dans de nombreux domaines, offrant des améliorations en termes d'économies, d'efficacité, de performance, de sécurité, d'efficacité des missions ou de létalité par rapport aux systèmes existants.
Cette boîte à outils a déjà été utilisée avec succès pour mettre en œuvre des arbres flous génétiques dans le contrôle en temps réel, la fusion de capteurs, l'analyse prédictive et la prise de décision. Les cas d'utilisation vont de l'IA surhumaine pour le combat aérien au-delà de la portée visuelle à la prédiction de traitement pour le trouble bipolaire, prouvant ainsi sa valeur dans les secteurs de la défense et de la santé.

La boîte à outils IA de Thales intègre les ressources GFT dans un cadre spécialement conçu pour les clients souhaitant développer leur propre système d'IA. Elle comprend ainsi trois outils de développement logiciel dédiés et uniques :

• Créer des systèmes d'IA à arbre flou
• Former et optimiser la solution d'IA
• Vérifier formellement la solution d'IA

Thales propose également des services professionnels : de la formation permettant un développement IA totalement indépendant à l'accompagnement au développement, jusqu'au développement de projets clés en main, pour les clients souhaitant déléguer tout ou partie du processus de développement à Thales.

Cette boîte à outils IA est le logiciel de Machine Learning de Thales, indépendant du domaine et de la plateforme, pour développer des systèmes d'IA vérifiables et certifiables.