Un article intitulé «I.A. la faille inattendue» paru dans le dernier Science & Vie du mois de juin a attiré toute mon attention en fin de semaine passée. Selon ce texte, il est possible de berner des algorithmes pour leur faire prendre une orange pour un hélicoptère! Des recherches financées par les militaires sont en partie liées à cette nouvelle «arme de manipulation massive»…
Selon cette publication du chercheur Nicolas Papernot de l’Université d’Etat de Pennsylvanie, il est possible de manipuler certains pixels d’une photographie numérique pour que les algorithmes actuels se trompent sur sa nature alors qu’un cerveau humain continue de voir clairement de quel objet il s’agit. Dans la pratique, il suffit d’appliquer un autocollant presque invisible sur un objet pour confondre l’I.A.
De vulgaires algorithmes dépourvus d’intelligence
Encore une preuve que ce que d’aucuns appellent aujourd’hui de l’intelligence artificielle, n’est qu’une cuisine d’algorithmes plus ou moins raffinés affamés de compilation de gigantesques bases de données… Bref, on est très loin de ce qu’est capable de faire un enfant âgé de quelques années seulement, n’en déplaise à certains «porte-paroles» malgré eux, jouets de lobbies influents…
En survolant l’article de Nicolas Papernot, la première et la dernière page ont attiré mon attention. On y apprend notamment que l’armée américaine a en partie signé cette contribution scientifique intitulée «Practical Black-Box Attacks against Deep Learning Systems using Adversarial Examples». Intéressant.
Manipuler des bases de données, des algorithmes
En fait, on comprend par extension que certaines bases de données si utiles à ces algorithmes pourraient être savamment manipulées pour détourner le nouveau Graal de l’informatique actuelle. En clair, en altérant très superficiellement certaines informations, il est ainsi possible de faire passer un panneau stop pour un autre panneau routier, par exemple… Pathétique alors que les voitures autonomes débarquent timidement…
Fondamentalement, ce n’est pas un détail si l’armée semble soutenir de telles recherches qui montrent les limites de ces «si puissants algorithmes», dont je constate quotidiennement leurs limites et leurs approximations depuis des années au fil de mes recherches sur Google, par exemple… Bref, rien ne vaut quelques connaissances en logique formelle et surtout un peu d’intelligence naturelle pour garder une certaine distance par rapport à cette nouvelle révolution…
Xavier Studer