La version que vous consultez n'est pas définitive.
Cette fiche d’activité peut encore faire l'objet de modifications. La version finale sera disponible le 1er juin.
4.00 crédits
15.0 h + 9.5 h
Q2
Langue
d'enseignement
d'enseignement
Anglais
Préalables
Connaissances en machine learning (par exemple LELEC2870, LINFO2262, LDATS2310)
Thèmes abordés
Le cours explore les approches avancées de la modélisation générative et des technologies de modèles linguistiques à grande échelle, en mettant l'accent sur leurs principes sous-jacents, leurs capacités et leur utilisation pratique. Le cours met l'accent sur l'expérimentation pratique, l'évaluation critique et l'utilisation responsable des systèmes d'IA générative. Le contenu est régulièrement mis à jour afin de refléter l'évolution technologique rapide dans ce domaine.
Acquis
d'apprentissage
d'apprentissage
A la fin de cette unité d’enseignement, l’étudiant est capable de : | |
| En ce qui concerne le cadre des AA du Master [120] en science des données : statistiques, cette activité contribue au développement et à l'acquisition des AA suivants : • en priorité : 1.2 – 1.3 – 1.6 – 2.2 – 2.4 – 2.5 – 6.3 • en secondaire : 3.1 – 3.2 – 5.3 – 5.6 – 6.1 En ce qui concerne le cadre des AA du Master [120] en Statistiques : Général, cette activité contribue au développement et à l'acquisition des AA suivants : • en priorité : 1.3 – 3.2 – 3.3 – 4.1 – 6.3 – 6.4 • en secondaire : 2.4 – 2.5 – 5.6 – 6.1 |
|
Contenu
• Rappel des principes fondamentaux du deep learning.
• Mécanismes d'attention et architectures Transformer.
• LLM : utilisation, incitation, inférence, ajustement.
• Modèles génératifs (VAE, GAN).
• Modèles de diffusion.
Les travaux pratiques se concentrent sur l'exécution de LLM locaux, les méthodes d'incitation et l'ajustement léger.
• Mécanismes d'attention et architectures Transformer.
• LLM : utilisation, incitation, inférence, ajustement.
• Modèles génératifs (VAE, GAN).
• Modèles de diffusion.
Les travaux pratiques se concentrent sur l'exécution de LLM locaux, les méthodes d'incitation et l'ajustement léger.
Méthodes d'enseignement
Le cours combine des cours magistraux soutenus par des diapositives et des sessions pratiques sur ordinateur au cours desquelles les étudiants appliquent chaque concept à l'aide de notebooks Python.
Modes d'évaluation
des acquis des étudiants
des acquis des étudiants
Examen oral.
Bibliographie
“Inside Deep Learning: Math, Algorithms, Models”, Edward Raff, Manning Publications, ISBN-13: 978-1617298639.
“Mastering PyTorch - Second Edition: Create and deploy deep learning models from CNNs to multimodal models, LLMs, and beyond”, Ashish Ranjan Jha, Packt Publishing, ISBN-13: 978-1801074308.
“Mastering PyTorch - Second Edition: Create and deploy deep learning models from CNNs to multimodal models, LLMs, and beyond”, Ashish Ranjan Jha, Packt Publishing, ISBN-13: 978-1801074308.
Faculté ou entité
en charge
en charge
