Des algorithmes qui vous envoient en prison? Vraiment?

  • Dernière modification de la publication :05/09/2021
  • Commentaires de la publication :6 commentaires
Le système de ShotSpotter.
Le système de ShotSpotter.

Les algorithmes de ShotSpotter, taillés pour entendre et identifier les coups de feu, font couler beaucoup d’encre aux Etats-Unis, où ils semblent connaître une certaine notoriété auprès des autorités. Récemment, le cas d’un homme détenu une année en prison, puis relâché, a posé un certain nombre de questions…

Cet Américain a en effet été placé sous les verrous à la suite d’un recoupement entre une vidéo de surveillance et des données issues de ShotSpotter. En gros, il avait parqué son véhicule près de l’endroit où un autre individu a été abattu par une arme à feu. Selon les indications reçues par la justice en provenance de ce logiciel, un coup de feu aurait été identifié au même endroit.

Une erreur humaine ou non?

L’affaire est expliquée en long et en large sur différents sites internet, dont ActuIA et Developpez.com. En lisant ces articles, on apprend que ces algorithmes ont d’abord identifié ces sonorités comme celles d’un feu d’artifice, avant d’être attribuées à des armes à feu par des analystes humains. L’emplacement de ces bruits aurait ensuite été modifié par un expert…

Dans d’autres affaires mettant en scène ce système automatisé basé sur des micros et capteurs épaulé par des hommes, différents défauts de reconnaissances sont apparus. Lors d’une autre altercation, ShotSpotter  (le site de la firme) aurait été en mesure de ne reconnaître que deux coups de feu avant l’intervention d’un humain qui en aurait rajouté cinq autres manuellement…

Gare aux raccourcis!

Mon commentaire? Ces affaires sont intéressantes à plus d’un titre. Pour commencer, on constate que l’intervention humaine n’est pas toujours synonyme de valeur ajoutée et peut même aggraver, dans certains cas, une analyse automatique. Mais pas toujours, comme le montre le second exemple…

Enfin, encore une fois, de nombreux observateurs parlent d’intelligence artificielle. Ancien étudiant en épistémologie et en logique formelle, ce genre d’affirmation me fait toujours sourire. Il ne faut pas confondre de vulgaires algorithmes avec de réelles capacités d’analyse, de déduction et d’heuristique. Beaucoup trop souvent, on confond des enchevêtrements de lignes de code boguées avec l’intelligence artificielle, qui reste à développer, pour utiliser un euphémisme…

Xavier Studer

Cet article a 6 commentaires

  1. Tom

    Et c’est qu’un début… on se réjouit de la suite…

  2. Nycko

    Ho oui, la suite est triste…..On parle d’une rencontre Biden et Tim Cook sur la sécurité virtuelle (cybercriminalité) mais on laisse un Pays tomber en main terroristes utilisant les produits de ce cher Tim sans aucune sanction de blocage d’appareils…Mais on fait du bruit pour arrêter des gens qui partagent des images pédophiles en contrôlant l’iCloud de Tous depuis 2018 (affirmé par Apple) et on annonce intégrer un logiciels dans une mise à jour prochaine qui s’y trouve déjà…..Pire que la Chine…Ou alors on reproche bêtement ce qui est fait aux Usa pour se dédoiner et fausser les réalités….On a bien vu que les critiques de suivi Covid dès février 2020 en Chine avec app et Qr code on y a droit aussi 14 mois plus tard….bref….

    1. TommyB

      Ce qui est triste c’est de voir des personnes innocentes se prendre des balles qui ne leur était même pas destinées (femmes, pères de famille et enfants). Les cas se multiplient et on ne peut pas mettre un flic derrière chaque habitant ou des caméras dans toutes les rues.

      Ce qui est inquiétant ce n’est pas Biden et Cook qui se rencontrent pour parler de cybercriminalité mais bien l’augmentation des crimes violents et de la cyber criminalité aux USA (et pas que)

      Si l’IA peut aider a identifier les auteurs de crimes violents, voire à les éviter et je vois pas pourquoi il faudrait s’en priver. On peut ne pas être d’accord avec le principe, pour des raisons tout à fait défendables, mais votre comparaison avec ce qui se passe en Afghanistan et la lutte contre la pédophilie me laisse pantois.

      Quand aux applications de pistages COVID utilisée de gré ou de force par les chinois, elles ont fait leur preuve alors que chez nous la seule preuve qu’on a maintenant c’est que sans la force rien ne se fait de gré.

      Les liberté c’est bien mais si vous êtes passager dans un bateau, votre liberté n’est pas de le couler en faisant un trou dans la coque de VOTRE cabine. Et si maintenant il y en a qui sont assez cons (désolé je ne trouve pas d’autre mot plus adaptés) pour le penser, je vote pour des caméras dans chaque cabine et qu’on jette à la mer les auteurs de ce genre de faits 🙂

      1. Nycko

        Pas tord avec votre point de vue, mais ces réfugiés qui risqueraient leur vie en restant en Afghanistan ne seront pas seuls. A chaque fois des personnes qui ont un tout autre sentiment vis à vis de l’occident se mêlent à cette fuite.
        En rien il est prouvé que tout le monde est réglo, et ne pas oublier que c’est l’Europe qui se partagera ces malheureux, les us se gardent bien de déposer ceux qui n’ont pas de passeport américains dans un pays frontalier de l’Afghanistan ou l’Espagne….
        Il faut pas toujours se voiler les réalités.
        20 ans sur un territoire avec des renseignements qui ont fonctionné tant que c’était nécessaire, puis tout à coup c’est l’étonnement ?
        Les us ont vendu des armes aux Talibans, donné des armes 20 ans aux Afghan, démantelé des centaines d’attentats contre leurs chars et aujourd’hui ?
        Il font la guerre des images pour aveugler le Monde…et ça marche.
        On a pas tout vu encore en Europe, dans 3 mois les fêtes chrétiennes commencent en Europe…

  3. Philippe

    J’ai juste l’envie de dire qu’elle horreur, vive les dérives policières…

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.