Le blog high-tech & telecom de Xavier Studer

Technologie: vu à la TV ou validé par l’IA? Même combat!

Au service de la photographie: le côté lumineux de l'AI...

Au service de la photographie: le côté lumineux de l’AI…

L’intelligence artificielle (IA) continue de faire le buzz dans l’opinion publique. Si cette technologie est prometteuse, elle demeure surtout excessivement perfectible compte tenu de ses problèmes actuels. Pire, elle manque de neutralité, selon les dernières informations de TA-SWISS, Fondation pour l’évaluation des choix technologiques…

Non seulement l’IA d’aujourd’hui continue de consommer passablement d’énergie en calculs, mais elle se révèle souvent imparfaite, voire trompeuse, quand elle ne conduit pas à amplifier des problèmes d’analyse préexistants. Le constat de certains spécialistes est préoccupant. En ce sens, son utilisation doit se faire très prudemment…

Des constats qui font peur…

Dans la dernière lettre d’information de TA-SWISS, la conseillère nationale socialiste et co-présidente du Groupe parlementaire pour une informatique durable constate le côté prometteur de l’IA, mais aussi qu’elle a des côtés plus sombres. Extrait en italique…

Corrigée depuis, l’application Google Photos confondait les personnes de couleur de peau noire avec les singes. Un programme de recrutement de personnel développé par Amazon et retiré entre-temps écartait les femmes, tandis que l’Apple Card est accusée de les considérer moins solvables que les hommes à capacité de gain égale.

Amplification des discriminations existantes…

D’autres algorithmes excluent les travailleurs de plus de cinquante ans ou attribuent automatiquement un risque d’assurance plus élevé aux personnes ayant un nom de famille à consonance étrangère. Les systèmes qui ont la capacité d’apprendre reprennent et exacerbent les discriminations existantes.

Lors de la sélection de nouveaux employés, de la détermination de la solvabilité ou de décisions juridiques telles que la définition de la probabilité de récidive de délinquants, ce type de «préjugés statistiques» peuvent conduire à des discriminations et à des décisions contestables sur le plan éthique.

L’impact des bugs aussi exacerbé?

Partant de ces constats, on ne peut que s’interroger sur l’usage de cette IA, qui n’est souvent qu’un tas d’algorithmes plus ou moins bogués. Est-ce une des raisons qui explique pourquoi, fin connaisseur en la matière, Bill Gates a souvent pris position en soulignant les risques de l’IA?

Dans ce prolongement, pour rester sur la côte ouest des Etats-Unis, il est piquant de relever que la ville de San Francisco a interdit à ses services de police et municipaux d’utiliser la technologie de reconnaissance faciale sur des résidents. Plus proche de nous, j’ai récemment constaté de mes propres yeux que l’iPhone 11 confondait deux frères… Bref, vu à la TV ou validé par l’IA: même combat!

Xavier Studer

2 commentaires pour “Technologie: vu à la TV ou validé par l’IA? Même combat!

  1. Adrian
    11/03/2020 à 07:54

    2001, l’odyssée de l’espace? ca vous dit quelque chose??? Ils ont fini par débrancher hall!

    • Ted
      11/03/2020 à 18:00

      C’est bien de le rappeler. Mais ce qui nous arrive sera encore pire: manipulation par des gouvernements, des groupes de pression, etc. Un potentiel véritable enfer. Le potentiel de nuisance de l’intelligence artificielle dépasse nettement le bug. Le risque minimum? des campagne incessantes de désinformation. Le pire, un outil de ségrégation en mains des dictateurs…

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

%d blogueurs aiment cette page :