Ollama avancé : modèles quantifiés, Modelfile et fine-tuning local
Au-delà de l'installation : comprendre la quantification GGUF (Q4_K_M), personnaliser un modèle avec un Modelfile, et importer un fine-tuning LoRA local dans Ollama.
Étiquette
Étiquette : Ollama
Héberger ses LLM soi-même en 2026 : Ollama, vLLM, LiteLLM, OpenWebUI
La stack LLM self-hosted de 2026 : moteur d'inférence (Ollama, vLLM), proxy LiteLLM, interface OpenWebUI et assistant code Continue.dev. Souveraineté des données, coût et indépendance pour l'Afrique de…
16 min de lecture