Le blog high-tech & telecom de Xavier Studer

L’«intelligence artificielle», nouvelle «arme de manipulation massive»?

Un article du Science & Vie du mois de juin 2018 et un Huawei P20 Pro boosté à l’«intelligence artificielle».

Un article du Science & Vie du mois de juin 2018 et un Huawei P20 Pro possédant un triple capteur photographique boosté à l’«intelligence artificielle».

Un article intitulé «I.A. la faille inattendue» paru dans le dernier Science & Vie du mois de juin a attiré toute mon attention en fin de semaine passée. Selon ce texte, il est possible de berner des algorithmes pour leur faire prendre une orange pour un hélicoptère! Des recherches financées par les militaires sont en partie liées à cette nouvelle «arme de manipulation massive»…

Selon cette publication du chercheur Nicolas Papernot de l’Université d’Etat de Pennsylvanie, il est possible de manipuler certains pixels d’une photographie numérique pour que les algorithmes actuels se trompent sur sa nature alors qu’un cerveau humain continue de voir clairement de quel objet il s’agit. Dans la pratique, il suffit d’appliquer un autocollant presque invisible sur un objet pour confondre l’I.A.

De vulgaires algorithmes dépourvus d’intelligence

Encore une preuve que ce que d’aucuns appellent aujourd’hui de l’intelligence artificielle, n’est qu’une cuisine d’algorithmes plus ou moins raffinés affamés de compilation de gigantesques bases de données… Bref, on est très loin de ce qu’est capable de faire un enfant âgé de quelques années seulement, n’en déplaise à certains «porte-paroles» malgré eux, jouets de lobbies influents…

En survolant l’article de Nicolas Papernot, la première et la dernière page ont attiré mon attention. On y apprend notamment que l’armée américaine a en partie signé cette contribution scientifique intitulée «Practical Black-Box Attacks against Deep Learning Systems using Adversarial Examples». Intéressant.

Manipuler des bases de données, des algorithmes

En fait, on comprend par extension que certaines bases de données si utiles à ces algorithmes pourraient être savamment manipulées pour détourner le nouveau Graal de l’informatique actuelle. En clair, en altérant très superficiellement certaines informations, il est ainsi possible de faire passer un panneau stop pour un autre panneau routier, par exemple… Pathétique alors que les voitures autonomes débarquent timidement…

Fondamentalement, ce n’est pas un détail si l’armée semble soutenir de telles recherches qui montrent les limites de ces «si puissants algorithmes», dont je constate quotidiennement leurs limites et leurs approximations depuis des années au fil de mes recherches sur Google, par exemple… Bref, rien ne vaut quelques connaissances en logique formelle et surtout un peu d’intelligence naturelle pour garder une certaine distance par rapport à cette nouvelle révolution…

Xavier Studer

7 commentaires pour “L’«intelligence artificielle», nouvelle «arme de manipulation massive»?

  1. 21/05/2018 à 9:29

    Il y aura toujours un humain pour détourner les bonnes choses dans un but malsain, et l’inverse est également heureusement possible parfois pour dépolluer nos erreurs.
    Le Yin et Yang sont indissociable dans notre monde pour un juste équilibre.

  2. 21/05/2018 à 12:15

    +1.

  3. Balista Barracuda
    21/05/2018 à 12:38

    Il faut prendre un peu de recul dans le temps avant d’avoir un jugement péremptoire. Si l’on remonte un peu dans le temps, qui aurait pu penser qu’une petite boite (un téléphone portable ) ait actuellement plus de force de calcul du monstre à plusieurs étages qui a servi à « calculer » la bombe atomique?
    Du point de vue militaire, par définition, c’est tordu, mais souvent utile car l’homme étant ce qu’il est, depuis la nuit des temps, les progrès scientifiques sont à la base d’une idiotie, donner de l’argent aux militaires ou à ce qui tourne autour.

  4. Carlo
    21/05/2018 à 2:12

    Le GITI organise un event à l’EPFL de Lausanne sur le sujet le 22 mai.
    http://www.giti.ch
    On attend plus de 500 personnes, comme quoi le sujet intéresse au plus au point.
    L’event est complet.

  5. Nycko
    22/05/2018 à 12:26

    Que du pipo toute cette realitevirtuelke dans nos produits…Sony le font depuis plus de 15 ans avec des reconnaissances de scenes dans leurs appareil photos et depuis 2013 possible d’incrustation des animations dans les videos prises par les Xperia Zx…

  6. Pedro
    22/05/2018 à 1:04

    Je pense que cet article en anglais résume bien la chose quand Google travail avec l’armé américaine et que leur employé commence à faire des remarques à leur direction..

    https://www.tomshardware.com/news/google-don-t-be-evil-end,37082.html

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

%d blogueurs aiment cette page :