Notre formation pratique en Deep Learning pour le traitement du langage fournit une introduction solide au Deep Learning et à ses applications spécifiques dans le domaine du traitement du langage.
Les participants acquerront des connaissances approfondies sur les fondamentaux du Deep Learning, tels que les réseaux de neurones, la rétropropagation du gradient, et les non-linéarités.
La formation se concentre sur le traitement du langage, en utilisant des réseaux récurrents, des briques LSTM, GRU, Softmax, des mécanismes d’attention, de mémoire, et des modèles à la pointe de la technologie.
Vous aurez l’opportunité d’appliquer ces compétences dans des domaines tels que la traduction automatique, le résumé automatique, la génération de texte, la classification de texte, la détection de polarité et la modélisation de topic.
Les aspects d’ingénierie tels que la collecte de métriques, l’analyse d’apprentissages, et la recherche d’hyperparamètres sont également abordés.
Les travaux pratiques sont basés sur des données réelles, en utilisant des modèles récents et en traitant des sujets de recherche actuels.
Programme détaillé
Introduction
- Présentation du Deep Learning
- Introduction au traitement du texte
- Présentation de technologies de traitement du langage
Fondamentaux
- Réseaux de neurones
- Rétropropagation du gradient
- Non-linéarités
Réseaux de traitement du langage
- Réseaux récurrents
- Briques lstm, gru, softmax, embeddings
- Mécanismes d'attention
- Mécanismes de mémoire
- Modèles état de l'art
Applications
- Traduction automatique
- Résumé automatique
- Génération de texte
- Classification de texte
- Détection de polarité (analyse de sentiment)
- Modélisation de topic
Ingénierie
- Collection de métriques
- Analyse d'apprentissages
- Recherche d'hyperparamètres
