Sites Web : Ollama 0.133 – Enfin une gestion en parallèle des LLMs - Site d’actualité geek, informatique et high tech - Korben.info

Publié le lundi 6 octobre 2008

⇒ https://korben.info/

Blog portant sur l’actualité informatique, geek et high-tech

Ollama 0.133 – Enfin une gestion en parallèle des LLMs

https://korben.info/app/uploads/2024/05/SCR-20240506-fxg-150x150.webp
Mai 2024, par Korben

Ollama 0.133 introduit des fonctionnalités expérimentales de parallélisme pour optimiser les applications IA. Grâce aux variables d’environnement OLLAMA_NUM_PARALLEL et OLLAMA_MAX_LOADED_MODELS, les développeurs peuvent gérer plusieurs modèles et requêtes simultanément. De nouveaux modèles IA (…)

→ Lire la suite sur le site d’origine…


Revenir en haut