Commentaires sur : Mistral sur Ollama: un exemple de limites de l’IA en local…

Par : Foxband

Foxband — Mon, 02 Nov 2026 08:14:16 +0000

Monsieur Studer, je m’appuie sur votre article et votre réponse à Grand Lapin…
§
Premièrement, l’objectif de votre essai, à savoir la comparaison de produits clefs en main, n’est pas énoncé dans votre article.
La portée et les limites de votre essai ne sont pas non plus décrites, cependant, vous n’hésitez pas à parler des « limites du traitement local », cf. l’intertitre précédant votre verdict.
Vous avez voulu vous faire « une idée de la réalité », mais de quelle réalité s’agit-il exactement ?
Ainsi, à la lecture de votre article, le profane risquera de généraliser le résultat de votre tentative de comparaison, et donc de tirer les mauvaises conclusions.
§
Deuxièmement, de deux choses l’une, ou bien les outils que vous utilisez exécutent correctement la tâche demandée, et dans ce cas, vous mesurez leur performance respective (justesse du résumé, rapidité…), ou bien les outils ne l’exécutent pas correctement, et dans ce cas, vous le comptabiliser comme un échec, ou disons, comme un résultat non exploitable et donc non comparable.
Il est ainsi saugrenu de demander à un autre outil IA de demander de générer un tableau de comparaison indiquant notes et durées de traitement, tandis qu’il ignore le contexte, à savoir que ces mesures de performance sont dans les faits sans objet.
§
Aussi, la lecture de votre article laisse penser que vous n’étiez pas tout à fait au clair sur les différents paramètres de la comparaison, ou bien que la relecture a été défaillante.
En effet, premièrement, vous écrivez avoir « effectué quatre tests de performance du modèle Mistral de base (7B version 0.3) », et ce, juste avant d’énumérer trois configurations matérielles, puis de préciser avoir terminé la comparaison avec « la version gratuite disponible sur internet »… comme s’il vous avait fallu arriver à la fin du texte pour réaliser que le modèle en ligne est tout autre.
De plus, il n’est nullement expliqué pour quelle raison vous avez choisi Mistral, et uniquement celui-ci, et en quoi il est représentatif de tous les produits IA, sachant que la version 0.3 de Mistral 7B a été déclarée obsolète en novembre 2024, et retirée en mars 2025 de l’exploitation commerciale (cf. https://docs.mistral.ai/models/mistral-7b-0-3).
§
Deuxièmement, il semble que vous avez d’abord cru que la carte graphique Nvidia RTX possédait 24 Go de mémoire vive, pour finalement réaliser qu’elle n’en avait que 16. Lorsqu’on sait l’importance que revêt la VRAM pour une carte graphique destinée à faire tourner un modèle…
§
Non, m’est avis que votre essai n’illustre pas « parfaitement aussi bien les limites que les potentialités des IA qu’elles soient exécutées dans le nuage ou en local » — en fait, si le profane généralise la portée de votre essai, c’est parce que vous en faites de même.
§
Mais encore, votre article, bien que je puisse comprendre l’idée d’un simple état des lieux, manque cruellement de vision. Quand on sait la perte progressive de la puissance de calcul disponible à chacun, de manière autonome, il y a vraiment lieu de réfléchir à la question. Vous parlez du prix des configurations matérielles utilisées dans votre essai, mais sans évoquer le fait que ce sont des prix surfaits dus à la spéculation autour de l’IA, et que cette explosion des prix n’est très probablement pas terminée. La RTX 5080 16 Go semble en voie de disparition, après la 5090, pour laisser place à la RTX 5080 24 Go ; dans le même temps, la plupart des autres composants informatiques deviennent plus chers, et les assembleurs sont en train de proposer moins de RAM au sein de leurs gammes.
§
Pendant ce temps, vous vous émerveillez de la rapidité et de la gratuité de certains produits IA en ligne. Pourtant la ficelle est grossière, c’est la même que celle des vendeurs de drogue offrant la première dose. Leur but est le maximum de profits, sur des générations, la gratuité et la rapidité actuelles ne sont que les instruments de la dépendance.
§
La seule chose que vous avez démontrée, c’est votre position partisane et peu éclairée.

Par : Xavier Studer

Xavier Studer — Sun, 01 Nov 2026 16:19:09 +0000

En réponse à Grand Lapin.

Bonjour et merci pour votre commentaire. Une perle! Contrairement à ce que vous indiquez, Ollama extrait nativement le texte des PDF (nul besoin d’OCR ici puisque le texte est sélectionnable): la preuve irréfutable que le fichier a bien été pris en charge est que les trois machines ont traduit avec exactitude la fin du rapport (page 17), jusqu’aux noms des membres de la fondation Kurt Imhof, à l’IBAN et à la mention de TWINT. Par ailleurs, le modèle Mistral 7B (v0.3) possède une fenêtre de contexte de 32 000 tokens largement capable d’absorber ce document de 19 pages, mais c’est le bridage par défaut d’Ollama qui semble avoir tronqué le début du fichier pour préserver la mémoire vive. Le but de ce test n’était justement pas d’empiler des outils tiers ou des réglages complexes réservés aux initiés, mais de comparer des configurations de base, accessibles et connues du grand public, utilisées «clé en main» face à un service en ligne gratuit qui résume parfaitement le même document en dix secondes.CQFD.

Par : merinos

merinos — Sun, 01 Nov 2026 12:21:43 +0000

en parlant d’algorithmes génératifs en local, penser à un bon pare-feu (sortant), du fait qu’il existe des garnements: https://www.01net.com/actualites/meme-hors-ligne-cette-ia-chinoise-cherche-a-transmettre-des-donnees-a-pekin.html alors, une interface pour celui de Windows: https://tinywall.pados.hu/download.php et un coup-feu sortant pour macOS: https://objective-see.org/products/lulu.html

Par : Grand Lapin

Grand Lapin — Sun, 01 Nov 2026 11:54:12 +0000

Ce test n’a aucun sens. D’une part Mistral 7B est un modèle faible et d’autre part un LLM local peut analyser du texte mais pas un pdf directement. Celui-ci doit d’abord être converti en texte avec un outil comme AnythingLLM et si le pdf contient des textes sous forme d’images il faut penser aussi à l’OCR. Ensuite ce pdf est beaucoup trop gros pour un petit modèle qui n’aura pas une taille de contexte suffisante.

Les modèles locaux peuvent faire des merveilles avec l’avantage de la gratuité et de la confidentialité totale. Il aurait fallu tester un modèle LLM comme Qwen 27B 4 bits quoiqu’il ne pourrait fonctionner que sur votre MacBook car il faut 32 Go de VRAM et ne convertit pas nativement les pdf non plus. Mais il est spectaculaire pour toutes sortes de choses (raisonnement, culture générale, traductions, programmation, appel de tools, IA agentique, etc.).

Par : Achille Petrilli

Achille Petrilli — Sun, 01 Nov 2026 11:23:26 +0000

Il faudrait creer des Modelfiles dans Ollama plutot que utiliser simplement un model: on peut changer la longuer du contexte (qui semble etre le probleme ici) ainsi que d’autre parametres pour avoir un modele « custom » qui colle au probleme que vous voulez traiter.
Bien sur, il vous faut le materiel approprié, la memorie, le stockage, etc. pour pouvoir customiser le model

Par : Nicolas Pittet

Nicolas Pittet — Sun, 01 Nov 2026 08:06:36 +0000

Merci pour ce test très concret d’un usage courant de l’IA.
Je n’utilise pas encore de modèle en local (vieux MacBook Pro M1 avec peu de mémoire), mais j’hésite à changer de machine pour pouvoir m’y mettre sérieusement. Reste à savoir si l’investissement en vaut réellement la peine par rapport aux solutions cloud.