L’exécution locale de modèles d’intelligence artificielle (IA) promet la confidentialité de nos données professionnelles et personnelles. Pourtant, notre banc d’essai révèle un gouffre entre les services hébergés dans le nuage et les logiciels installés directement sur nos machines.
Pour évaluer ces solutions sur un document de référencec, nous avons soumis le rapport de seulement dix-neuf pages publié par le centre de recherche fög de l’Université de Zurich à différents ordinateurs assez musclés. Alors qu’un service en ligne génère une excellente synthèse en dix secondes, les logiciels permettant d’exécuter localement des modèles IA échouent lamentablement avec leurs réglages d’usine.
Le piège des réglages automatiques
Par défaut, les utilitaires gratuits brident drastiquement la mémoire allouée à la lecture des textes. Incapables d’ingérer l’intégralité du fichier, ils tronquent silencieusement les pages d’introduction pour ne conserver que les derniers paragraphes du document, par exemple.
Le résultat frise souvent le ridicule. Au lieu de restituer les chiffres clés sur la confiance envers les médias, les modèles se contentent de résumer les remerciements finaux, les coordonnées bancaires ou les options de versement par code électronique, comme je l’ai montré la semaine passée avec différentes versions de Mistral.
Des ajustements indispensables sous le capot
Pour obliger l’application LM Studio à parcourir l’ensemble du document sans découpage arbitraire, des interventions s’imposent dans les paramètres. Il faut impérativement débrider la fenêtre de contexte textuel et forcer la compression de la mémoire vive.
L’utilisateur doit également configurer l’accélération matérielle de sa puce graphique, qu’il s’agisse de l’environnement Metal sur Mac ou de Vulkan sur Windows. Sans ces ajustements, même un grand modèle de langage ne parvient pas à accomplir une tâche basique comme résumé un PDF somme toute assez modeste.
Les limites criantes des petits modèles
Le choix du grand modèle de langage (LLM) constitue un autre facteur déterminant dans la réussite du traitement. Malgré une fenêtre d’exécution élargie à plus de 24’000 ou 32’000 tokens, un modèle léger à sept milliards de paramètres souffre d’un oubli manifeste des données situées au milieu du texte.
Sur nos machines de test, un modèle comme Mistral 7B peut passer sous silence des pans entiers de l’enquête zurichoise. Pire encore, ses réponses mélangent maladroitement les langues et inventent des termes hybrides difficilement compréhensibles. Cela dit, en poussant le travail d’optimisation, on parvient sur PC à obtenir un vrai résumé de qualité avec de modèle…
L’impasse des modèles trop lourds
À l’opposé, charger un LLM beaucoup plus conséquent de vingt-sept milliards de paramètres sur un ordinateur portable, même plutôt haut de gamme, pose d’autres problèmes majeurs. Bien que la pertinence de l’analyse remonte nettement, la lourdeur des calculs paralyse la machine pendant de longues minutes.
Sur notre MacBook Pro doté de 48 Go de mémoire unifiée, le traitement a pu exiger jusqu’à vingt-six minutes d’attente. Un délai totalement déraisonnable pour un usage quotidien et qui nécessite une quantité d’énergie non négligeable vu la chaleur atteinte de la machine, réputée pour son efficacité et sa sobriété énergétique.
| Note | Machine & Configuration | Logiciel & Réglages | Modèle testé | Durée | ||||
|---|---|---|---|---|---|---|---|---|
| 9 | 8/10 | Cloud (Service en ligne) | Via Perplexity | Claude Sonnet | 10 s | |||
| 9 | 7/10 | Cloud (Service en ligne) | Accès direct | Gemini Argon High | 14 s | |||
| 9 | 6/10 | Cloud (Service en ligne) | Via Perplexity | Gemini 3.8 Flash | 10 s | |||
| 9 | 5/10 | Cloud (Service en ligne) | Version web gratuite | Mistral en ligne | ~10 s | |||
| 9 | 5/10 | Cloud (Service en ligne) | Accès direct | mode analyse | ChatGPT Go | 01 min 7 s | ||
| 9 | 5/10 | Lenovo Yoga Slim 7i Ultra Aura Edition (Core Ultra X9 | 32 Go) | LM Studio (fenêtre 32k | Vulkan | mis à jour) | Qwen 3 14B | 6 min 40 s |
| 8 | 5/10 | MacBook Pro M4 Pro (48 Go) | LM Studio (réinitialisé | fenêtre 32k) | Qwen 3 14B | 2 min 30 s | ||
| 8 | 5/10 | Lenovo Yoga Slim 7i Ultra Aura Edition (Core Ultra X9 | 32 Go) | LM Studio (1er essai en fenêtre 32k | Vulkan) | Qwen 3 14B | ~6 min 40 s | |
| 8 | 0/10 | MacBook Pro M4 Pro (48 Go) | LM Studio (réinitialisé | fenêtre 32k) | Qwen 3.8 27B | 26 min | ||
| 6 | 0/10 | MacBook Pro M4 Pro (48 Go) | LM Studio (fenêtre 32k max | réglages par défaut) | Mistral 7B | 1 min 40 s | ||
| 5 | 5/10 | MacBook Pro M4 Pro (48 Go) | LM Studio (prompt ciblé | RAG partiel) | Qwen 3.8 27B | ~1 min | ||
| 5 | 5/10 | MacBook Pro M4 Pro (48 Go) | LM Studio (fenêtre 32k) | Mistral 7B | 4 min 30 s | |||
| 5 | 5/10 | Lenovo Yoga Slim 7i Ultra Aura Edition (Core Ultra X9 | 32 Go) | LM Studio (fenêtre 32k | Vulkan) | Mistral 7B | 4 min 30 s | |
| 2 | 5/10 | MacBook Pro M4 Pro (48 Go) | LM Studio (par défaut | contexte 4k/RAG) | Qwen 3.8 27B | ~ 20 s | ||
| 2 | 2/10 | MacBook Pro M4 Pro (48 Go) | LM Studio (par défaut | contexte 4k/RAG) | Mistral 7B | ~ 20 s | ||
| 2 | 0/10 | PC Gamer (Core i7-12700KF | 64 Go | RTX 5080) | Ollama (par défaut) | Mistral 7B | 38 s | |
| 2 | 0/10 | MacBook Pro M4 Pro (48 Go) | LM Studio (sans réinitialisation) | Qwen 3.8 27B | ~1 min | |||
| 2 | 0/10 | MacBook Pro M4 Pro (48 Go) | LM Studio (32'768 tokens | 1er essai) | Mistral 7B | 2 min | ||
| 1 | 5/10 | MacBook Pro M4 Pro (48 Go) | LM Studio (par défaut | contexte 4k/RAG) | Flint | ~20 s | ||
| 1 | 5/10 | MacBook Pro M4 Pro (48 Go) | Ollama (par défaut) | Mistral 7B | 2 min 13 s | |||
| 1 | 0/10 | Lenovo Yoga Slim 7i Ultra Aura Edition (Core Ultra X9 | 32 Go) | Ollama (par défaut) | Mistral 7B | 19 min 40 s |
Le juste équilibre du format intermédiaire
La véritable bonne surprise provient finalement d’un gabarit intermédiaire comptant quatorze milliards de paramètres. Sur un PC portable Lenovo équipé d’une puce Intel Core Ultra et de 32 Go de mémoire, le modèle traite efficacement le rapport complet en six minutes et quarante secondes.
La synthèse obtenue égale alors la précision du traitement en ligne, restituant fidèlement les statistiques sur la désinformation et le service public audiovisuel. Sur l’architecture Apple Silicon, la rapidité de la mémoire unifiée permet même de boucler cette même analyse en deux minutes et trente secondes.
Un luxe technique encore très onéreux
Cette expérience démontre que le traitement local de documents volumineux peut rester une affaire de spécialistes. Obtenir un résultat convaincant réclame un matériel puissant, donc assez onéreux à l’heure actuelle, et une solide compréhension des paramètres de calcul. Heureusement, les IA en ligne comme Gemini 4 Argon, Claude, Perplexity ou ChatGPT peuvent nous guider.
Même parfaitement optimisée, la formule exige une patience certaine face à la fulgurance des grands serveurs distants. Le respect absolu de la sphère privée demeure à ce prix, réservant pour l’instant cette pratique à certains passionnés. Cela dit, compte tenu de l’incroyable vitesse d’évolution des logiciels et du matériel, ces difficultés ne seront probablement bientôt plus que d’anciens souvenirs…
Xavier Studer
Classement comparatif: synthèse du rapport «Quality of the Media 2026» (PDF de 19 pages)
Voici le récapitulatif complet des 21 essais réalisés en ligne (Cloud) et en local (LM Studio et Ollama), classés selon la note de qualité du résumé (du meilleur au pire).
| Note | Machine & Configuration | Logiciel & Réglages | Modèle testé | Durée | Qualité du résumé, selon Gemini 4 Argon |
| 9,8/10 | Cloud (Service en ligne) | Via Perplexity | Claude Sonnet | 10 s | Le numéro 1 absolu: 16 statistiques clés extraites (dont l’échantillon de 1’222 personnes, la 5 G à 33,8%, Play Suisse à 33,5%, les revenus publicitaires et le tiers d’articles mutualisés) dans un français irréprochable. |
| 9,7/10 | Cloud (Service en ligne) | Accès direct | Gemini Argon High | 14 s | Excellence journalistique: équilibre remarquable qui intègre la note globale de qualité (6,4/10), la double pression, les détails sur les 18-24 ans (69,9% sur les réseaux sociaux) et la mutualisation alémanique. |
| 9,6/10 | Cloud (Service en ligne) | Via Perplexity | Gemini 3.8 Flash | 10 s | Le style le plus fluide: rédaction journalistique très naturelle (acronyme romand SSR, exemple de la 5 G, manne publicitaire des géants tech et mutualisation), malgré l’oubli de la note globale de 6,4/10. |
| 9,5/10 | Cloud (Service en ligne) | Version web gratuite | Mistral en ligne | ~10 s | La référence cloud initiale: synthèse fidèle, fluide et complète de l’Executive Summary (pages 1 et 2) avec les principaux chiffres clés. |
| 9,5/10 | Cloud (Service en ligne) | Accès direct, mode analyse | ChatGPT Go | 01 min 7 s | Densité statistique maximale: intègre le duel publicitaire (1,94 milliard contre 2,08 à 2,55 milliards de francs) et les 42% de privés d’actualité, malgré un mot oublié dans une comparaison. |
| 9,5/10 | Lenovo Yoga Slim 7i Ultra Aura Edition (Core Ultra X9, 32 Go) | LM Studio (fenêtre 32k, Vulkan, mis à jour) | Qwen 3 14B | 6 min 40 s | Le meilleur résultat en local: synthèse structurée et sans faute de toute l’étude 2026 (désinformation à 56,5%, SRG SSR à 57,7%, baisse de budget de 17%, qualité à 6,4/10, évitement à 39,2%), égalant les services en ligne. |
| 8,5/10 | MacBook Pro M4 Pro (48 Go) | LM Studio (réinitialisé, fenêtre 32k) | Qwen 3 14B | 2 min 30 s | Le meilleur compromis vitesse/qualité sur Mac: couvre tout le rapport de la page 1 à 17 avec une excellente vélocité, malgré l’oubli du chiffre de -17% sur la SRG SSR et une généralisation des 72,9% de concentration alémanique. |
| 8,5/10 | Lenovo Yoga Slim 7i Ultra Aura Edition (Core Ultra X9, 32 Go) | LM Studio (1er essai en fenêtre 32k, Vulkan) | Qwen 3 14B | ~6 min 40 s | Très bonne synthèse transversale: couvre les 4 piliers de l’étude jusqu’à la page 16 (désinformation, SRG SSR, confiance à 42%, recommandations), mais avec un peu moins de chiffres dans la seconde moitié. |
| 8,0/10 | MacBook Pro M4 Pro (48 Go) | LM Studio (réinitialisé, fenêtre 32k) | Qwen 3.8 27B | 26 min | Complet mais disproportionné: analyse fidèlement le fond de l’étude de la page 1 à 16, mais le temps de calcul explose par saturation mémoire et les statistiques disparaissent après le deuxième paragraphe. |
| 6,0/10 | MacBook Pro M4 Pro (48 Go) | LM Studio (fenêtre 32k max, réglages par défaut) | Mistral 7B | 1 min 40 s | Trompeur (hallucinations chiffrées): couvre l’étude globale jusqu’à la page 10, mais invente des pourcentages inexistants (80,3%, 67,1%, 43,1%) et commet un contresens sur la couverture internationale. |
| 5,5/10 | MacBook Pro M4 Pro (48 Go) | LM Studio (prompt ciblé, RAG partiel) | Qwen 3.8 27B | ~1 min | Tronqué par le RAG: restitue bien le volet SRG SSR (pages 2 et 5), mais affirme à tort qu’aucun chiffre n’apparaît sur la désinformation faute d’avoir lu le haut de la page 1. |
| 5,5/10 | MacBook Pro M4 Pro (48 Go) | LM Studio (fenêtre 32k) | Mistral 7B | 4 min 30 s | Incomplet et en franglais: résume bien le volet sur la désinformation, mais ignore toute l’étude sur la SRG SSR et laisse passer des mots anglais («encounter», «of news»). |
| 5,5/10 | Lenovo Yoga Slim 7i Ultra Aura Edition (Core Ultra X9, 32 Go) | LM Studio (fenêtre 32k, Vulkan) | Mistral 7B | 4 min 30 s | Incomplet et en franglais: résultat identique au Mac, amputé de toute la seconde moitié du rapport sur la SRG SSR et les tendances à long terme. |
| 2,5/10 | MacBook Pro M4 Pro (48 Go) | LM Studio (par défaut, contexte 4k/RAG) | Qwen 3.8 27B | ~ 20 s | Hors-sujet élégant: français impeccable, mais ne résume que la présentation générale et les bailleurs de fonds de la page 17 sans un mot sur l’étude 2026. |
| 2,2/10 | MacBook Pro M4 Pro (48 Go) | LM Studio (par défaut, contexte 4k/RAG) | Mistral 7B | ~ 20 s | Hors-sujet: ne synthétise que les courts extraits génériques de la page 17 sélectionnés par le moteur RAG de LM Studio. |
| 2,0/10 | PC Gamer (Core i7-12700KF, 64 Go, RTX 5080) | Ollama (par défaut) | Mistral 7B | 38 s | Hors-sujet: traduit presque mot à mot la seule page 17 (dimensions théoriques de la qualité, fondation Kurt Imhof, IBAN, éditeur Schwabe). |
| 2,0/10 | MacBook Pro M4 Pro (48 Go) | LM Studio (sans réinitialisation) | Qwen 3.8 27B | ~1 min | Hors-sujet: se limite aux pages 17 et 18 (partenaires financiers, dons TWINT, coordonnées de contact et copyright). |
| 2,0/10 | MacBook Pro M4 Pro (48 Go) | LM Studio (32’768 tokens, 1er essai) | Mistral 7B | 2 min | Hors-sujet (biais de récence): malgré la fenêtre de 32k, le modèle oublie le début du PDF et récite la page 17 jusqu’à l’IBAN et au code SWIFT. |
| 1,5/10 | MacBook Pro M4 Pro (48 Go) | LM Studio (par défaut, contexte 4k/RAG) | Flint | ~20 s | Hors-sujet et confus: résume la page 17, laisse fuiter les balises internes du RAG («citation 3») et confond la bibliographie de la page 16 avec un chapitre. |
| 1,5/10 | MacBook Pro M4 Pro (48 Go) | Ollama (par défaut) | Mistral 7B | 2 min 13 s | Hors-sujet et mal traduit: bloqué sur la page 17 (IBAN, TWINT) avec des calques littéraux («Livre d’année») et un mot anglais non traduit («contributing»). |
| 1,0/10 | Lenovo Yoga Slim 7i Ultra Aura Edition (Core Ultra X9, 32 Go) | Ollama (par défaut) | Mistral 7B | 19 min 40 s | Le pire résultat: près de 20 minutes d’attente pour ne résumer que la page 17 et commettre un contresens affirmant que l’application TWINT sert à consulter les études. |