Commentaires sur : Installez Ollama pour utiliser l’IA en local! https://www.xavierstuder.com/2025/10/installez-ollama-pour-utiliser-lia-en-local/ Télécoms, smartphones, IA et multimédia en Suisse et dans le monde... Thu, 23 Oct 2025 14:22:23 +0000 hourly 1 Par : ipodac https://www.xavierstuder.com/2025/10/installez-ollama-pour-utiliser-lia-en-local/#comment-135543 Thu, 23 Oct 2025 14:22:23 +0000 https://www.xavierstuder.com/?p=66093#comment-135543 Je m’en suis servi pour faire des analyses pendant mes heures d’avion, j’ai réactivé ma GPU que j’avais désactivé pour inutilité (nvidia), ça marchait nickel pour mon besoin (calculs, lecture de rapports, etc…)

]]> Par : Jacques https://www.xavierstuder.com/2025/10/installez-ollama-pour-utiliser-lia-en-local/#comment-135453 Wed, 22 Oct 2025 10:13:20 +0000 https://www.xavierstuder.com/?p=66093#comment-135453 @Nycko Les versions récentes d’Ollama et autres outils similaires permettent d’intégrer les recherches web en utilisant le protocole MCP, cf. https://ollama.com/blog/web-search. Cela nécessite d’augmenter la taille du contexte, et demande donc une machine avec encore plus de RAM.

]]> Par : Nycko https://www.xavierstuder.com/2025/10/installez-ollama-pour-utiliser-lia-en-local/#comment-135416 Tue, 21 Oct 2025 17:29:13 +0000 https://www.xavierstuder.com/?p=66093#comment-135416 IA en local c’est une IA dégradée. Aucune plus-value à mon avis…pour les entreprises ok, mais un privé a besoin de contenu, des comparatifs, des idées listées sur le web, tout cela impossible en local.

]]> Par : Cédric https://www.xavierstuder.com/2025/10/installez-ollama-pour-utiliser-lia-en-local/#comment-135393 Tue, 21 Oct 2025 09:39:51 +0000 https://www.xavierstuder.com/?p=66093#comment-135393 Voici la version corrigée de votre commentaire :

Les meilleurs, à mon goût :
1. Granite4:Small-H (Moe)
2. GPT-OSS:20B (Moe + Réflexion)
3. Gemma3:27B
4. Magistral (Réflexion)
5. Mistral-Small 3:2

Actuellement, je suis dans ma période Granite, avant c’était GPT-OSS:20B.
J’ai un coup de cœur pour Mistral-Small, mais avec Gemma3, ils sont lents sur mon serveur d’inférence (~10 tokens/s contre 20 tokens/s pour les Moe) parce que j’ai deux cartes Nvidia Quadro P5000 de 16 Go de VRAM et comme les Moe font travailler deux experts, Ollama utilise les deux cartes.

Mon serveur Ollama est un Dell avec un Xeon et 32 Go de RAM, acheté avec une Quadro P5000 pour 700.- l’année dernière sur Ricardo, plus l’achat d’une seconde P5000 pour 120.- sur eBay l’année passée. Le PC a une alimentation de 950 W, donc il tient bien la charge.

Quant au logiciel frontend, j’utilise Open-WebUI, certainement un des meilleurs. Il gère le serveur Ollama, permet d’utiliser des API compatibles OpenAI pour l’inférence externe, autorise l’ajout de tools OpenAPI et MCP, et dispose de fonctionnalités pour étendre le serveur.

Il y a de quoi monter son petit ChatGPT configuré au petits oignons.

Ce commentaire à été corrigé par granite4:small-h

]]> Par : Kay https://www.xavierstuder.com/2025/10/installez-ollama-pour-utiliser-lia-en-local/#comment-135380 Tue, 21 Oct 2025 05:51:00 +0000 https://www.xavierstuder.com/?p=66093#comment-135380 Très pratique et efficace

]]>