Formation Hugging Face : Découvrir et implémenter des modèles Open Source

Programme de la formation
Hugging Face : Découvrir et implémenter des modèles Open Source

• Introduction à Hugging Face et son écosystème

  - Identifier les composants clés de l'écosystème Hugging Face.
  - Naviguer sur le Hugging Face Hub pour explorer les ressources.
  - Distinguer les types de modèles et datasets disponibles.

• La bibliothèque Transformers : Installation et concepts

  - Installer la bibliothèque Transformers.
  - Comprendre l'architecture générale des modèles Transformers.
  - Identifier les classes principales de la bibliothèque (AutoModel, AutoTokenizer).

• Tokenization : Préparation des données textuelles

  - Expliquer le rôle de la Tokenization dans le TALN.
  - Utiliser un AutoTokenizer pour prétraiter des textes.
  - Gérer les spécificités des tokens spéciaux et du vocabulaire.

• Chargement de modèles pré-entraînés

  - Charger un modèle pré-entraîné depuis le Hugging Face Hub.
  - Examiner les configurations de modèles (config.json).
  - Sélectionner un modèle adapté à une tâche TALN spécifique.

• Utilisation des Pipelines pour l'inférence rapide

  - Créer un Pipeline pour une tâche TALN (ex: classification de texte).
  - Exécuter des inférences avec un Pipeline.
  - Interpréter les résultats des Pipelines.

• Fine-tuning : Préparation des données pour l'entraînement

  - Préparer un dataset pour le fine-tuning.
  - Appliquer la Tokenization aux données d'entraînement.
  - Structurer les données pour l'entraînement d'un modèle.

• Fine-tuning : Entraînement d'un modèle de classification

  - Configurer un Trainer pour le fine-tuning.
  - Lancer l'entraînement d'un modèle de classification de texte.
  - Évaluer les performances du modèle fine-tuné.

• Cas d'usage : Analyse de sentiment avec fine-tuning

  - Implémenter un modèle de classification de texte pour l'analyse de sentiment.
  - Fine-tuner un modèle pré-entraîné sur un dataset de sentiments.
  - Évaluer la précision du modèle sur des données non vues.

• Génération de texte : Concepts et modèles

  - Comprendre les principes de la génération de texte.
  - Identifier les architectures de modèles de génération (ex: GPT-2).
  - Utiliser un modèle de génération pour produire du texte.

• Cas d'usage : Rédaction automatique de résumés

  - Utiliser un modèle de génération de texte pour la rédaction automatique de résumés.
  - Configurer les paramètres de génération (longueur, température).
  - Évaluer la pertinence des résumés générés.

• Déploiement de modèles Hugging Face pour l'inférence

  - Exporter un modèle fine-tuné pour le déploiement.
  - Mettre en place une API simple pour l'inférence.
  - Gérer les requêtes et réponses d'un service d'inférence.

• Cas d'usage : Déploiement d'un service de traduction automatique

  - Déployer un modèle de traduction automatique pour un service multilingue.
  - Intégrer le modèle dans une application web basique.
  - Tester la fonctionnalité de traduction en temps réel.