Intelligence artificielle : à l’humain de décider !

Le combat de l’homme et de la machine n’est pas nouveau. Souvenons-nous des luddites britanniques ou des canuts lyonnais s’attaquant aux premiers métiers à tisser. Mais avec l’arrivée de l’intelligence artificielle, le débat prend une autre tournure puisque celle-ci serait capable, tout bonnement, de remplacer l’humain.

L’IA que nous connaissons aujourd’hui est dite « faible » car elle se concentre sur des tâches bien délimitées.  Mais elle travaille à des vitesses stupéfiantes pour analyser une quantité phénoménale de données. Elle est dotée de fonctions cognitives : observer son environnement, y distinguer des éléments singuliers, apprendre de ces observations, évoluer en fonction de cet apprentissage, donner du sens aux choses observées et, enfin, tirer des conséquences de cette analyse. Peut-elle aller jusqu’à nous remplacer ? 

L’IA en remplacement de l’humain ?

Cela n’est ni réaliste ni souhaitable pour plusieurs raisons. 

D’abord parce que si l’IA est capable de répliquer certaines fonctions humaines, elle ne peut pas répliquer l’homme dans sa globalité. Elle s’applique à une tâche spécifique alors que l’être humain est par nature « multitâche » et elle n’éprouve aucun sentiment, n’a pas de libre arbitre ni la conscience du monde dans lequel elle évolue. 

Ensuite, pour apprendre, cette IA « faible » a besoin de données, d’une quantité phénoménale de données. Elle dépend entièrement de ce avec quoi on la nourrit et donc, in fine, de qui la nourrit .

L’intégrité des données, un élément crucial

Se pose là la question cruciale de la véracité, de l’intégrité des données qui vont permettre son apprentissage. On a vu un système d’IA devenu raciste, biaisé parce-que les données qui l’avaient alimenté l’étaient. Et dans une expérience qui pourrait inspirer un La Fontaine moderne, on a vu la machine incapable de reconnaître un lion sorti de son contexte naturel : ce qu’elle reconnaissait sur toutes les images dont on l’avait nourri, c’était la savane et non pas le lion.  

Le résultat de l’analyse par une intelligence artificielle n’est donc pas infaillible et il peut être biaisé, intentionnellement ou non. 

Si elles sont relativement bénignes dans les utilisations grand public de l’IA faible, les conséquences peuvent s’avérer dramatiques dans les activités dites « critiques » comme la défense, la sécurité ou le transport aérien. Il serait irréaliste et inconséquent de confier à la seule IA la vie de millions de personnes et la sécurité de leurs biens. 

C’est pour toutes ces raisons que Thales plaide pour une IA dite de confiance, explicable, certifiable et éthique, dont les principes sont résumés dans une charte « Ethique du numérique » (voir ci-contre).  

La technologie n’est ni bonne ni mauvaise en elle-même. C’est à l‘humain de réguler son usage : après tout, il est interdit d’embarquer dans un avion avec un couteau mais pas à un boucher d’en posséder plusieurs dans sa boutique ! L’IA doit rendre compte en permanence des conséquences qu’elle tire de son analyse. D’où la nécessité d’un dialogue permanent, en temps réel. Car c’est à l’être humain, et à lui seul, que doit revenir la décision finale.