La course à l’«intelligence artificielle» (IA) bat son plein. Alors que Meta (Facebook) vient d’annoncer avec Microsoft mettre à disposition des développeurs une IA open source et gratuite, la jeune pousse californienne Anthropic a lancé il y a quelques jours Claude 2, que nous avons commencé à tester ici.

Comme Claude 2 n’est disponible qu’aux Etats-Unis, il faut ruser un peu, mais ça ne pose pas de problème. Première surprise, quand on lui demande de faire le résumé d’une page internet, il indique: «Claude ne peut pas visiter de liens. Les réponses peuvent contenir des hallucinations».

Claude 2 se présente

Je lui demande notamment en français de se présenter: «Comment fonctionnes-tu? A quand s’arrête ta base de données? Est-ce que tu peux accéder à internet?», Voici sa réponse plutôt circonstanciée en italique:

Je suis Claude, un assistant conversationnel créé par Anthropic. Je fonctionne grâce à un modèle d’intelligence artificielle entraîné par Anthropic pour avoir des conversations nuancées.

Je n’ai pas directement accès à internet ou à une base de données qui serait mise à jour en temps réel. Mon modèle a été entraîné sur de vastes ensemble de données textuelles jusqu’à une date donnée par les ingénieurs d’Anthropic. Je n’ai donc pas connaissance d’événements ou d’informations après cette date limite dans mon entraînement.

Je suis conçu pour avoir des conversations ouvertes et approfondies en comprenant le contexte et en générant un nouveau texte pertinent pour répondre. Mais je n’ai pas de moyen autonome d’aller chercher de nouvelles informations en ligne en temps réel. Mon savoir est limité par mon entraînement initial.

Pour toute question nécessitant des connaissances actualisées, il est préférable que l’utilisateur me fournisse le contexte nécessaire plutôt que de supposer que j’ai déjà accès à ces informations. Avec ces limites à l’esprit, je peux avoir des conversations informatives et naturelles dans mon domaine d’entraînement! N’hésitez pas à me poser d’autres questions sur mon fonctionnement.

Un excellent traducteur

En lui posant différentes questions, je réalise que sur des contenus sur lesquels il n’est pas formé, il répond en substance qu’il n’a pas assez de contexte pour déterminer précisément de quoi il s’agit. Et il est vrai que lorsqu’on le pousse dans les cordes en lui donnant des liens auxquels il n’a pas accès, il hallucine vraiment, inventant n’importe quoi.

En revanche, lorsqu’on demande à cette IA générative qui se veut sécurisée, utile et alignée sur l’homme, de traduire des textes de l’anglais en français, j’ai obtenu des textes remarquables. De même en lui demandant de me présenter des politiciens suisses, le résultat a aussi été de grande qualité. Selon lui, il aurait été entraîné jusqu’à fin 2022, début 2023.

Encore une fois, on constate les potentialités inouïes de ces intelligences artificielles, mais aussi leurs limites. D’après mes premiers tests, ce Claude 2, qui ne cite pas ses sources, est à suivre de près. Nous reviendrons donc probablement sur cette AI basée à San Francisco, fruit du travail d’anciens collaborateurs d’OpenAI… Enfin, je laisse aux développeurs le soin de tester Llama 2 de Meta.

Xavier Studer

PS
Mon conseil reste le même: ne pas utiliser ces IA si l’on n’est pas capable de juger de la pertinence, voire la véracité des informations ainsi générées. Un conseil particulièrement important après la mise en garde du Secrétaire général de l’ONU.