Aller au contenu principal

Intelligence augmentée et systèmes critiques

La révolution numérique accélérée nous a donné un aperçu du potentiel qu’offre l’intelligence artificielle (IA) mais aussi des risques qu’elle comporte. Dans les secteurs réglementés tels que l’aéronautique, les transports et la défense, les technologies doivent être certifiables, explicables et dignes de confiance, sans retirer à l’être humain la responsabilité des décisions critiques. D’où le développement d’une nouvelle stratégie – l’intelligence augmentée – qui consiste à utiliser l’IA pour résoudre des problèmes toujours plus complexes, mais en donnant un rôle central à l’être humain.

Deux experts Thales basés au Canada – Jean-François Gagnon (recherche et technologie) et Siegfried Usal (directeur général de Thales Digital Solutions Inc.) – nous en disent plus sur cette stratégie et sur l’impact qu’elle aura sur nous tous.

Qu’est-ce que l’intelligence augmentée ? Est-ce seulement de l’intelligence artificielle en mieux ?

© Thales

Siegfried Usal : L’intelligence augmentée consiste à renforcer l’intelligence humaine à l’aide de technologies spécifiques basées sur l’IA, chaque fois que cela présente un intérêt pour la société. Elle ne constitue pas une rupture : elle s’inscrit dans la continuité d’un usage responsable des technologies. Avec une IA puissante, n’importe qui peut trouver et classer des informations visuelles, audio ou textuelles pertinentes beaucoup plus efficacement qu’avec n’importe quelle autre technologie. L’intelligence augmentée donne la capacité de résoudre des problèmes beaucoup plus complexes qu’avant pour prendre de meilleures décisions.

L’intelligence augmentée est une combinaison de technologies, comme par exemple la fusion de données, le deep learning et les capteurs cognitifs externes. Il ne s’agit pas d’une technologie autonome, mais plutôt d’une aide, une IA « humanisée » qui élargit le potentiel humain, comme le font déjà de nombreuses autres formes de travail collectif.

Dans quelles situations l’intelligence augmentée peut-elle être utile ?

© Thales

Jean-François Gagnon : Prenons l’exemple d’un service de « triage médical ». L’intelligence augmentée peut aider les équipes médicales à analyser d’énormes volumes d’informations, par exemple les signaux physiologiques transmis par des capteurs. Du fait de ses limites purement physiques, aucun être humain n’est capable d’accomplir une telle tâche.

La technologie, elle, peut facilement le faire. Elle pourrait être un outil d’aide à la décision qui permettrait aux soignants de prioriser les patients dont l’état est le plus critique. 

 

Un outil d’aide à la décision sans pouvoir de décision ?

SU : Absolument ! L’un des problèmes fréquemment soulevés quand on parle d’IA, c’est la crainte que la machine ne remplace à terme l’être humain. En fait, il s’agit ici d’un système dans lequel l’être humain conserve la responsabilité de la partie la plus critique de la chaîne de décision : les capacités de perception et de filtrage de la solution d’intelligence augmentée l’aident à prendre de meilleures décisions par, mais la décision finale lui reviendra toujours. 

Quand j’étais pilote de chasse, on m’a entraîné à prendre rapidement des décisions vitales. La technologie à l’intérieur et autour du cockpit était une extension de moi-même et toute mauvaise interprétation pouvait me faire commettre des erreurs fatales. L’intelligence augmentée a la capacité d’amplifier la collaboration homme-machine, et surtout de doter l’être humain de nouveaux outils pour affiner ses capacités de jugement et de résolution de problèmes, en particulier dans les situations critiques. Mais elle ne peut en aucun cas se substituer à l’être humain, notamment quand des vies sont en jeu.

À quel point sommes-nous prêts à accepter ce niveau d’implication dans des contextes critiques plus familiers ?

SU : Pour que l’intelligence augmentée puisse être adoptée dans les systèmes critiques destinés à la défense ou à des secteurs réglementés comme les transports et la santé, la clé est la confiance. 

Pour susciter cette confiance, Thales met en œuvre une approche dite « Thales TrUE AI » : une IA transparente, compréhensible et éthique (Transparent, Understandable and Ethical). Au fil des décennies, nous avons accumulé une expertise qui nous a permis de mettre au point des technologies et des solutions robustes et explicables. Il faut maintenant appliquer ce savoir-faire à une combinaison de technologies, comme la fusion des données et le deep learning.

La technologie semble jouer un rôle considérable…

JFG : C’est vrai que l’intelligence augmentée réunit toutes ces technologies. Mais l’important, ce n’est pas la technologie en soi. Nous proposons des solutions à tous les niveaux de la chaîne d’innovation, depuis la définition du concept en amont jusqu’à la mise sur le marché. À cet égard, nous travaillons en liaison étroite avec les utilisateurs et notre réseau de partenaires, afin de ne jamais perdre de vue le but principal : développer des solutions qui répondent aux besoins et présentent une utilité dans leur contexte spécifique.

SU : Autrement dit, nous devons concevoir, former et alimenter l’IA à l’aide de connaissances propres au domaine, mais aussi travailler avec les organismes régulateurs, afin d’atteindre nos objectifs de confiance, de traçabilité et de robustesse. Il faut que la solution soit adaptée à chaque application critique dans le secteur concerné : aéronautique, défense, sécurité, transport terrestre et santé.

Cela suppose naturellement de posséder la maîtrise des domaines qui sont primordiaux pour chaque solution, tels que la cybersécurité, l’intelligence artificielle et l’intelligence humaine.

Thales a-t-il des atouts spécifiques en la matière ?

JFG : Notre expertise et notre expérience dans les domaines critiques que nous avons mentionnés permettent une approche beaucoup plus large des problématiques d’intelligence artificielle et d’intelligence augmentée.  

Dans le contexte du COVID-19, par exemple, nous avons pu appliquer au domaine médical des technologies initialement développées pour nos principaux secteurs d’activité. L’une d’elles, en particulier, permet de créer un modèle cognitif qui aide les cliniciens à contre-valider leurs diagnostics en cas de fatigue ou de stress intense. Dans le climat actuel, cette application hybride de la technologie a la capacité, au bout du compte, de sauver des vies.

Vous vous engagez seuls sur cette voie ? 

SU : Si nous avons les connaissances et les capacités technologiques requises, Thales ne peut atteindre seul les buts qu’il s’est fixés. Pour montrer à nos clients, aux utilisateurs et aux organismes de réglementation qu’ils peuvent se reposer sur nos technologies pour prendre des décisions, nous devons concevoir avec eux les solutions de demain.

JFG : Pour cela, nous nous appuyons sur un solide réseau de collaborateurs externes dans divers domaines. Nous travaillons avec les meilleurs experts du monde, capitalisant sur les données de la science et sur les écosystèmes d’innovation que nous avons bâtis avec des universités, des start-ups, des utilisateurs et des partenaires de l’industrie au cours des 15 dernières années afin de développer des technologies centrées sur utilisateur.

Vous mettez donc déjà à profit l’expérience passée pour imaginer les solutions d’aujourd’hui. Quel est l’avenir de l’intelligence augmentée ?

SU : Selon moi, c’est très simple : compte tenu des améliorations qu’elle peut apporter, plus vite nous serons capables d’humaniser l’intelligence artificielle, plus vite l’intelligence augmentée sera adoptée pour le progrès et le bien de l’humanité.