Shopping cart
Your cart empty!
Intelligence Artificielle
Formation Créer son IA Locale : Installer des LLM sur ses propres serveurs
Découvrez comment créer votre propre Intelligence Artificielle Locale en installant des Large Language Models (LLM) sur vos serveurs locaux. Cette formation vous permettra de maîtriser les prérequis matériels, la configuration d'environnements serveur et l'interaction via API locale. Vous pourrez ainsi développer des cas d'usage tels que des assistants conversationnels internes ou des analyses de documents confidentiels.
Réponse sous 24h ouvrées
945 € HTHT / personne
Durée14 heures
FormatInter-entreprise
NiveauTout niveau
LieuFrance — Présentiel & Distanciel
- Comprendre les prérequis matériels nécessaires pour déployer des LLM sur serveurs locaux
- Configurer des environnements serveurs pour l'installation et la mise en œuvre de LLM
- Interactionner avec des LLM via API locale pour développer des cas d'usage spécifiques
- Évaluer les performances des LLM déployés localement
01.Introduction aux LLM locaux et prérequis matériels
- —Identifier les architectures de LLM adaptées à l'hébergement local.
- —Lister les spécifications matérielles minimales pour l'exécution de LLM (notamment GPU).
- —Comparer les avantages et inconvénients des déploiements LLM locaux vs cloud.
02.Configuration de l'environnement serveur pour LLM
- —Installer les pilotes GPU nécessaires (NVIDIA CUDA, ROCm).
- —Configurer un environnement Python virtuel pour le développement LLM.
- —Mettre en place les dépendances logicielles pour l'inférence de modèles.
03.Optimisation des modèles : Quantification et formats
- —Expliquer le principe de la **quantification** pour les LLM.
- —Appliquer des techniques de quantification à un modèle open source.
- —Choisir le format de modèle optimisé (ex: GGUF, ONNX) pour l'inférence locale.
04.Déploiement de LLM open source avec Ollama/LM Studio
- —Installer et configurer un serveur d'inférence LLM (ex: Ollama, LM Studio).
- —Télécharger et charger un **Large Language Model (LLM)** open source.
- —Vérifier le bon fonctionnement du modèle sur l'infrastructure locale.
05.Interaction avec le LLM via API locale
- —Développer des requêtes HTTP pour interagir avec l'**API locale** du LLM.
- —Interpréter les réponses JSON de l'API.
- —Intégrer le LLM dans une application Python simple.
06.Conteneurisation des LLM avec Docker
- —Créer un Dockerfile pour un environnement d'inférence LLM.
- —Construire et exécuter une image Docker contenant un LLM.
- —Gérer les volumes Docker pour la persistance des modèles et données.
07.Évaluation des performances et monitoring
- —Mesurer la latence et le débit d'**inférence** du LLM.
- —Surveiller l'utilisation des ressources (CPU, **GPU**, RAM) pendant l'exécution.
- —Identifier les goulots d'étranglement de performance sur les **serveurs locaux**.
08.Cas d'usage et sécurité des LLM locaux
- —Mettre en œuvre un assistant conversationnel interne avec un LLM local.
- —Discuter des implications de la **sécurité des données** pour les LLM hébergés localement.
- —Explorer les bases du **fine-tuning** pour adapter un LLM à des données spécifiques.
Déploiement LLM sur serveur local
Installer et configurer un Large Language Model (LLM) open source sur une infrastructure serveur locale, en gérant les dépendances logicielles et matérielles.
Optimisation LLM par quantification
Appliquer des techniques de quantification pour réduire l'empreinte mémoire et améliorer les performances d'inférence des LLM sur des ressources matérielles limitées (GPU).
Interaction LLM via API locale
Développer des applications interagissant avec un LLM déployé localement, en utilisant des requêtes et réponses via une API REST pour l'inférence.
Évaluation performance LLM local
Mesurer et analyser les métriques de performance (latence, débit) d'un LLM exécuté sur des serveurs locaux, en fonction des configurations matérielles (GPU) et logicielles.
Financement
Cette formation est finançable via OPCO, plan de développement des compétences ou FAF. Nos conseillers prennent en charge le montage de votre dossier.
Simuler mon financement
Ils ont suivi cette formation
Rejoignez nos participants et développez vos compétences avec les experts IMI.
Points forts de la formation
Créer son IA Locale : Installer des LLM sur ses propres serveurs — pourquoi la choisir ?
🎯
Maîtrise des prérequis matériels
Apprenez à identifier et configurer les ressources matérielles nécessaires pour déployer efficacement des LLM sur vos serveurs locaux.
⚙️
Configuration serveur simplifiée
Suivez un module dédié à la configuration de l'environnement serveur spécifiquement pour les LLM, garantissant une installation optimale.
🔧
Optimisation des modèles avancée
Découvrez des techniques de quantification et de formats pour améliorer les performances des LLM déployés localement.
🌐
Interactivité via API locale
Apprenez à interagir avec les LLM à travers des APIs locales pour développer des cas d'usage spécifiques et concrets.
🐳
Conteneurisation avec Docker
Maîtrisez l'art de la conteneurisation des LLM à l'aide de Docker, facilitant le déploiement et la gestion des applications.
📈
Évaluation des performances
Acquérez des compétences pour évaluer les performances des LLM déployés, assurant ainsi leur efficacité et leur pertinence dans vos projets.
Thématique
Questions clés
Tout ce que vous devez savoir sur Créer son IA Locale : Installer des LLM sur ses propres serveurs.
Poser une questionUn LLM est un modèle de langage artificiel capable d'analyser et de générer du texte. Il peut être utilisé pour des applications telles que les assistants conversationnels, l'analyse de documents, la traduction automatique, etc.
Formez-vous avec les meilleurs experts IMI Executive Solutions.
Créer son IA Locale : Installer des LLM sur ses propres serveurs vous intéresse ?
Obtenez un devis personnalisé sous 24h — inter, intra ou sur-mesure.
Créer son IA Locale : Installer des LLM sur ses propres serveurs vous intéresse ?
Obtenez un devis personnalisé sous 24h — inter, intra ou sur-mesure.
Financement
Financer Créer son IA Locale : Installer des LLM sur ses propres serveurs
Plusieurs dispositifs permettent de prendre en charge votre formation Créer son IA Locale : Installer des LLM sur ses propres serveurs. Nos conseillers vous accompagnent pour identifier la solution la plus adaptée à votre situation.
OPCO
Formations financées via votre opérateur de compétences
Les OPCO (Opérateurs de Compétences) peuvent prendre en charge tout ou partie des frais de formation de vos salariés, dans le cadre du plan de développement des compétences ou de l'alternance. Renseignez-vous auprès de votre OPCO de rattachement.
En savoir plus
FAF
Aide à la formation pour les indépendants
Les Fonds d'Assurance Formation (FAF) financent les formations des travailleurs indépendants, auto-entrepreneurs, professions libérales et chefs d'entreprise. Le financement dépend de votre code NAF/APE et de l'organisme auquel vous cotisez (FAFCEA, AGEFICE, FIFPL…).
En savoir plus
FranceTravail
Des aides pour les demandeurs d'emploi
France Travail (ex-Pôle emploi) peut financer vos formations via des dispositifs comme l'AIF (Aide Individuelle à la Formation) ou des achats directs. Parlez-en à votre conseiller pour valider votre projet et vérifier votre éligibilité.
En savoir plus
Employeur
Votre entreprise peut financer votre formation.
Votre entreprise dispose d'un budget dédié à la formation. Rapprochez vous de la direction, du manager ou du service ressources humaines de votre entreprise pour en savoir plus.
En savoir plus
Région
Aides régionales pour la formation professionnelle
Les conseils régionaux proposent des aides financières pour favoriser l'accès à la formation, en particulier pour les jeunes, les demandeurs d'emploi ou les personnes en reconversion. Ces aides varient selon les régions.
En savoir plus
FNE Formation
Un soutien pour les entreprises en transformation
Le FNE-Formation accompagne les entreprises confrontées à des mutations économiques (transformation digitale, écologique, etc.). Il permet de financer les parcours de formation de leurs salariés, souvent à hauteur de 50 à 100 %, selon les cas.
En savoir plusBesoin d'aide pour choisir votre dispositif ?
Nos conseillers pédagogiques analysent votre situation et vous orientent vers la solution la plus avantageuse.
Témoignages
Avis sur Créer son IA Locale : Installer des LLM sur ses propres serveurs
4.7/5· 3 avis vérifiés
“Bon rapport qualité/durée pour la formation Créer son IA Locale : Installer des LLM sur ses propres…. Pas de temps mort, chaque module apporte quelque chose de concret. IMI Executive Solutions sait tenir ses promesses.”
FD
Franck D.
Ingénieur·e systèmes · Banque régionale
“Créer son IA Locale : Installer des LLM sur ses propres… : une formation que j'aurais aimé faire bien plus tôt dans ma carrière. Les fondamentaux sont bien posés et les ateliers pratiques font vraiment la différence.”
AN
Aïcha N.
Gestionnaire de compte · Réseau de distribution
“Très contente de cette formation Créer son IA Locale : Installer des LLM sur ses propres…. L'animatrice était pédagogue et patiente. Les exercices pratiques m'ont permis de gagner confiance avant de me lancer.”
BL
Benjamin L.
Chef·fe de chantier · Groupe agroalimentaire
IMI en chiffres
Satisfaction96%
Taux de réussite94%
À propos d'IMIEn savoir plus sur IMI
L'expertise IMI au service de votre développement professionnel
Notre mission
Former des professionnels avec des méthodes immédiatement applicables sur le terrain.
- Certifié Qualiopi
- Formateurs experts
- 100% opérationnel
Notre approche
Des formations pensées par des experts pour répondre aux réalités de chaque métier.
- Personnalisé & sur-mesure
- +10 ans d'expertise
- Résultats mesurables
FAQ
Questions fréquentes
Une question sur Créer son IA Locale : Installer des LLM sur ses propres serveurs ? Nos conseillers pédagogiques vous répondent sous 24h.
Contacter un conseillerConnaissances en programmation Python. Familiarité avec les concepts de base des réseaux et des systèmes d'exploitation Linux. Notions sur les modèles de Machine Learning.
Inscrivez-vous à Créer son IA Locale : Installer des LLM sur ses propres serveurs
Rejoignez les 1 200+ professionnels qui ont déjà boosté leurs compétences grâce à cette formation.
Réponse sous 24h · Certifié Qualiopi · Sans engagement