Les géants de la tech multiplient les effets d’annonce, par exemple avec des outils capables de piloter nos navigateurs web. Ces programmes peuvent désormais cliquer, remplir des formulaires, voire modifier des pages internet sur des systèmes de gestion de contenu (CMS) comme WordPress avec des interventions humaines limitées!

Pourtant, cette apparente débauche technologique masque une réalité qui n’a fondamentalement pas changé. Sous le capot, les modèles de langage reposent toujours sur des mécanismes statistiques de prédiction et souffrent des mêmes égarements, même si les résultats ne cessent de s’améliorer, pour notre plus grand bonheur, grâce à différents mécanismes de contrôle.

La persistance des affabulations…

Le cœur du problème réside dans les affabulations de ces modèles, ces fameuses hallucinations par lesquelles ces systèmes inventent des faits avec un aplomb souvent déconcertant. Confier à du code et à des machines le soin de modifier seuls les pages d’un site internet augmente les risques d’erreurs ou de suppressions involontaires de données.

En l’absence de réelle compréhension contextuelle, au sens humain, ces programmes exécutent aveuglément des ordres déduits d’une logique prédictive parfois défaillante. Une mauvaise interprétation d’un menu ou d’une consigne éditoriale peut potentiellement virer au désastre pour l’utilisateur berné par une assurance vertigineuse.

Garder impérativement la main humaine

Face à ces apparences d’autonomie, il convient de remettre l’église au milieu du village. Ces tas d’algorithmes plus ou moins fiables doivent impérativement demeurer cantonnés à un rôle d’assistance préliminaire et de formulation de simples suggestions. Ils sont d’ailleurs souvent excellents, voire extrêmement précieux, dans ce rôle!

Le discernement humain demeure irremplaçable pour contrôler chaque étape critique (ou non) et vérifier des contenus avant toute mise en ligne, achat ou modification substantielle. Abandonner le contrôle total et final à des algorithmes faillibles relève d’une dangereuse imprudence technologique. En gros, c’est jouer à la roulette russe!

Xavier Studer