Anthropic franchit une nouvelle étape en matière de transparence et d’intelligence artificielle (IA). L’entreprise américaine, plus connue pour son assistant Claude, annonce la prochaine intégration de marqueurs invisibles pour identifier tous les textes et documents générés par ses outils*.
Ce déploiement technique n’a rien de nouveau. Il répond à certaines exigences de transparence du nouvel AI Act européen, dont le code de bonnes pratiques européen précise les modalités de mise en œuvre. L’éditeur a cependant décidé d’appliquer cette mesure à l’échelle mondiale, comme expliqué dans sa documentation technique.
Si l’intention de l’Union européenne est évidemment louable, sa mise en pratique ne manquera pas de poser de nombreuses questions ! Par exemple, indiquez-vous déjà aujourd’hui que vos textes sont vérifiés par Antidote ou spécifiez-vous les logiciels utilisés pour corriger vos photos ?
Un traçage au cœur du système
Revenons à Anthropic. Dans les textes, un marquage imperceptible est intégré dans le contenu. Théoriquement, ce procédé invisible n’altère pas la lecture et pourrait survivre à des copier-coller ou à de légères modifications de l’utilisateur. Mais attention, un tel signe pourrait aussi être apposé sur des textes révisés par Claude…
L’approche est identique pour les images et visuels produits par ces algorithmes. Anthropic intègre des informations cryptographiquement signées selon le standard ouvert C2PA pour signaler l’origine des fichiers. Il n’est pas le premier à le faire, puisque Google, notamment, signe aussi ses images et vidéos de manière similaire.
Tous les services concernés
Ce marquage est apposé par modèle de langage, quelle que soit l’interface utilisée. Un tel marquage pourrait théoriquement se trouver dans des contributions de Perplexity en choisissant un des modèles Claude Sonnet. Cela touche aussi bien les outils grand public que des déclinaisons destinées aux entreprises et hébergées dans le nuage.
Si cette initiative, qui vise à limiter les risques liés à une éventuelle désinformation par des textes générés par de l’IA est louable, il faut toutefois rester prudent. Le marquage pourrait simplement indiquer qu’un document a transité par l’outil, sans garantir que Claude en est l’unique auteur et sans tenir compte de la qualité de la requête, de sa formulation ou de la documentation mise à disposition par l’utilisateur…
Xavier Studer
- Anthropic a annoncé le marquage des contenus produits par Claude, mais le déploiement n’est pas encore achevé pour tous les modèles. Ceux lancés à partir du 2 août l’intègrent par défaut. Les modèles précédents sont encore en cours de mise en conformité jusqu’au début du mois de décembre.
En savoir plus sur Le blog high-tech & telecom de Xavier Studer
Subscribe to get the latest posts sent to your email.
Qui va vérifier tout ça? Les bureaucrates de Bruxelles ?
Bonjour C’est une bonne question. les lecteurs de ces textes générés par ces IA sauront-ils qu’ils lisent un texte né de l’IA?
Ces Marqueurs invisible, qui pourra effectivement les voir? Même question pour les photos.
Je vois plusieurs problèmes avec ce tatouage. Premièrement, si j’écris un texte et que je demande à l’IA de corriger les fautes d’orthographe et de grammaire, il sera automatiquement tatoué, ce qui donnera l’impression que le texte a été produit par l’IA. Ensuite, les IA génératives sont entraînées sur des données que l’on trouve sur Internet et qui ont été créées à l’origine par des êtres humains, mais on ne trouve aucune trace de cette origine. Il y a d’ailleurs eu une affaire en justice concernant Anthropic, accusée d’avoir utilisé des millions de livres protégés par le droit d’auteur, notamment issus de bibliothèques pirates, pour constituer sa bibliothèque d’entraînement. L’entreprise a finalement accepté un accord de 1,5 milliard de dollars avec les auteurs et ayants droit concernés.
Désinstallez tout ! Utilisez deepseek
Et sinon, Kim Khardashian elle indique quand ces photos sont retouchées par photoshop ? Photoshop c’est de l’ia aussi. D’ailleurs c’est quoi l’ia ? Avec en plus nos appareils photos qui retouchent automatiquement nos prises de vues avec l’ia…
Encore une reg’ementation completement inutile de l’UE. Exactement comme le consentement que l’on donne quand on accède à un site web. Totalement inutile.