Electronic Computing Systems for Artificial Intelligence

Langue
d'enseignement

Anglais
> Facilités pour suivre le cours en français

Préalables

Toute la formation en circuits électroniques est obligatoire : ELEC1530, LELEC2531 et LELEC2532 (ou équivalent).
De plus, il peut être utile d’avoir suivi les cours avancés d’implémentation de circuits analogiques et numériques (par exemple LELEC2650, LELEC2570) et/ou différents cours autour du machine learning (par exemple LELEC2870, LELEC2885, LINFO2262).   

Thèmes abordés

L’intelligence artificielle devient omniprésente dans notre vie quotidienne. À ce titre, la conception de processeurs (hardware) dédié aux tâches d’IA, appelés accélérateurs, et l’utilisation de ces accélérateurs dans le cadre de systèmes embarqués deviennent des sujets majeurs dans le domaine des systèmes électroniques. Cela concerne notamment l’IA dite « edge » ou « TinyML », c’est-à-dire exécutée avec des processeurs ayant des ressources limitées. 
Cependant, l’usage généralisé de l’IA soulève plusieurs défis importants pour les circuits et systèmes électroniques : (1) comment utiliser efficacement les processeurs existants (microcontrôleurs, accélérateurs) pour exécuter ces tâches d’IA ? (2) quelles sont les tendances et les défis en matière d’accélérateurs numériques et mixtes dédiés à l’IA ? et (3) quels sont les impacts sociétaux et environnementaux du calcul lié à l’IA ? 
Dans ce cours, vous étudierez ces trois défis, à l’interface entre les modèles d’IA, les processeurs modernes et les systèmes sur puce (SoC). Après une introduction approfondie à l’apprentissage profond (deep learning) et à des stratégies pratiques pour optimiser ces réseaux de neurones profonds, vous explorerez les implémentations modernes des accélérateurs d’IA telles que les architectures de calcul en mémoire, et comprendrez comment le calcul analogique peut être utilisé dans ce contexte. Enfin, vous prendrez du recul sur les impacts plus larges du calcul lié à l’IA, tant sur le plan sociétal qu’environnemental. 

Acquis
d'apprentissage

A la fin de cette unité d’enseignement, l’étudiant est capable de :

a. Contribution de l’activité aux acquis d’apprentissage du programme :   AA1 Socle de connaissances : concepts électroniques (AA1.1) logiciels de simulation et de CAO (AA1.2)  (Topologies d’accélérateurs numériques et mixtes, Non-idéalités des circuits analogiques, compensation numérique de circuits analogiques, systèmes mixtes)  AA2 Compétences d'engineering : analyse et modélisation d'un système électronique et intégration hardware/software  (Utilisation de plusieurs langages de programmation, entraînement et inférence de modèles AI, compilation de modèles IA sur une architecture matérielle donnée)  AA3 Compétences de R&D : se documenter sur les solutions existantes dans le domaine visé par le projet (AA3.1)  AA4 Conduite de projet  b. Acquis d’apprentissage : Après avoir suivi ce cours, les étudiants ingénieurs en circuits et systèmes électroniques seront capables de :  Comprendre comment les algorithmes actuels d’intelligence artificielle (en particulier l’apprentissage profond) sont exécutés sur des processeurs génériques et sur des accélérateurs dédiés, grâce à des techniques d’optimisations du modèle et du hardware (en numérique ou en signaux mixtes)  Compare de manière critique les topologies analogiques et numériques dans le contexte de l’accélération IA, en regard de la précision, la vitesse la puissance, le coût et la flexibilité nécessaire pour le système  Analyser et comprendre comment les non-idéalités se propagent dans une chaîne de circuits mixtes et comment elles peuvent être calibrées  Comprendre les implications sociétales et les aspects environnementaux de l’intégration de i’IA dans la société

Contenu

• Optimisation de l’exécution modèles d’IA (en particulier de deep learning) sur hardware (quantification, pruning, etc.) 
  

• Topologies d’accélérateurs numériques pour l’IA 
  

• Opération en mémoire et accélérateurs en circuits mixtes pour l’IA 
  

• Non-idéalités analogiques et technique d’auto-compensation 
  

• Assistance des circuits analogiques par des circuits numériques 
  

• Technologiques émergentes et neuromorphiques pour l’IA 
  

• Transformations sociétales et impacts environnementaux de l’IA   
  

Méthodes d'enseignement

Le cours sera organisé comme suit :  

• Différents cours sur les sujets principaux du cours (voir le contenu) 
  

• La réalisation d’un projet sur l’entièreté du cours, divisé en trois parties distinctes : (1) optimiser l’exécution d’un modèle d’IA sur un système de type TinyML avec des resources limitées, (2) optimiser l’architecture d’un accélérateur IA numérique dédié pour l’exécution de modèles d’IA, (3) explore self-compensation techniques for analog AI accelerators 
  

• Cours de perspective sur les technologies émergentes de l’IA, ainsi que sur les impacts environnementaux et sociétaux de l’IA. 
  

Modes d'évaluation
des acquis des étudiants

Dans le cadre de ce cours, les étudiant·es sont évalué·es par: 

• une évaluation continue certificative, basée sur des rapports à réaliser en groupe, à remettre pendant le quadrimestre ; 
  

• un examen oral individuel en session. 
  

Pour constituer la note finale, la pondération donnée à l’évaluation continue est de: 

• 40% si la note de l’examen individuel est supérieure à 9/20; 
  

• 0 si la note de l’examen individuel est inférieure à 5/20; 
  

• linéairement progressive entre 0%, si la note de l’examen individuel est de 5/20, et 40%, si la note de l’examen individuel est 9/20. 
  

Les rapports à réaliser en groupe ne peuvent être refaits en seconde session; la note d'évaluation associée à ces devoirs acquise en première session est conservée en cas de seconde session. 

Ressources
en ligne

https://moodle.uclouvain.be/course/view.php?id=659

Bibliographie

Chapitres de différents livres de références 
Liste de publications scientifiques récentes sur les différents sujets abordés 
Chapters of reference books 
Liste of scientific publications on the different course topics  

Support de cours

• Coursebook, liste de publications scientifiques récentes sur les sujets abordés dans le cours

Faculté ou entité
en charge

> ELEC