Anthropic franchit une nouvelle étape en matière de transparence et d’intelligence artificielle (IA). L’entreprise américaine, plus connue pour son assistant Claude, annonce la prochaine intégration de marqueurs invisibles pour identifier tous les textes et documents générés par ses outils*.

Ce déploiement technique n’a rien de nouveau. Il répond à certaines exigences de transparence du nouvel AI Act européen, dont le code de bonnes pratiques européen précise les modalités de mise en œuvre. L’éditeur a cependant décidé d’appliquer cette mesure à l’échelle mondiale, comme expliqué dans sa documentation technique.

Si l’intention de l’Union européenne est évidemment louable, sa mise en pratique ne manquera pas de poser de nombreuses questions ! Par exemple, indiquez-vous déjà aujourd’hui que vos textes sont vérifiés par Antidote ou spécifiez-vous les logiciels utilisés pour corriger vos photos ?

Un traçage au cœur du système

Revenons à Anthropic. Dans les textes, un marquage imperceptible est intégré dans le contenu. Théoriquement, ce procédé invisible n’altère pas la lecture et pourrait survivre à des copier-coller ou à de légères modifications de l’utilisateur. Mais attention, un tel signe pourrait aussi être apposé sur des textes révisés par Claude…

L’approche est identique pour les images et visuels produits par ces algorithmes. Anthropic intègre des informations cryptographiquement signées selon le standard ouvert C2PA pour signaler l’origine des fichiers. Il n’est pas le premier à le faire, puisque Google, notamment, signe aussi ses images et vidéos de manière similaire.

Tous les services concernés

Ce marquage est apposé par modèle de langage, quelle que soit l’interface utilisée. Un tel marquage pourrait théoriquement se trouver dans des contributions de Perplexity en choisissant un des modèles Claude Sonnet. Cela touche aussi bien les outils grand public que des déclinaisons destinées aux entreprises et hébergées dans le nuage.

Si cette initiative, qui vise à limiter les risques liés à une éventuelle désinformation par des textes générés par de l’IA est louable, il faut toutefois rester prudent. Le marquage pourrait simplement indiquer qu’un document a transité par l’outil, sans garantir que Claude en est l’unique auteur et sans tenir compte de la qualité de la requête, de sa formulation ou de la documentation mise à disposition par l’utilisateur…

Xavier Studer

• Anthropic a annoncé le marquage des contenus produits par Claude, mais le déploiement n’est pas encore achevé pour tous les modèles. Ceux lancés à partir du 2 août l’intègrent par défaut. Les modèles précédents sont encore en cours de mise en conformité jusqu’au début du mois de décembre.