Apprentissage pour la commande
- Responsable de l'UE : SIGAUD Olivier ()
- Code UE :
- Volumes horaires / étu : 10 h Cours, 20 h TP
- Nombre de crédits de l'UE/EC : 3 ECTS
- Parcours-type : ROBOT (option) SI MeDH
- Semestre où l'enseignement est proposé : S1 S2 S3 S4
- Langue d'enseignement : Français Anglais
- Public concerné : Département SDI Autre (préciser) : ENSAM
- Localisation : Campus PMC Autre (préciser) :
Thématique
Outils de base en apprentissage automatique en vue de leur utilisation dans un cadre de commande, en particulier robotique. Focus particulier sur l’apprentissage supervisé pour l’apprentissage de modèles en robotique à partir de données, et l’apprentissage par renforcement comme approche de la commande optimale basée sur des données.
Mots-clés : apprentissage automatique, supervisé, par renforcement
Prérequis
Afin de suivre cette UE, doivent être acquis précédemment :
- programmation python
- calcul de gradient, statistiques (espérance, variance…)
Acquis d'apprentissage visés (AAV)
À l'issue de cette UE, les étudiantes ou étudiants seront capables de :
- compréhension des algorithmes de régression
- programmation pytorch
- compréhension des algorithmes d’apprentissage par renforcement
- utilisation de l’apprentissage automatique sur des cas concrets de robotique en simulation
Séquencement et modalités de l'enseignement (indicatif)
| Semaine | C/TD/TP | Contenu | Préparation | AAV associé(s) |
|---|---|---|---|---|
| S1 | 2h cours, 4h TP | Cours: Régression : des moindres carrés linéaires à la régression avec des réseaux de neurones en pytorch. TP : mise en pratique d’algorithmes de régression sur des données synthétiques | ||
| S2 | 2h cours, 4h TP | Cours : Régression pour l’apprentissage de modèles en robotique : modèles géométriques, cinématiques et dynamiques, modèles directs et inverses. Exemples dans la littérature. Modèles hybrides combinant une partie connue et une partie apprise. TP : apprentissage d’un modèle à partir de données en simulation dans le cadre d’une boucle de commande basée modèle. | ||
| S3 | 2h cours, 4h TP | Cours : Apprentissage par renforcement sans modèle pour la recherche de politiques (contrôleurs en feedback). Théorème du gradient sur les politiques, algorithme REINFORCE, compromis biais-variance. TP : application de REINFORCE à un système simulé. | ||
| S4 | 2h cours, 4h TP | Cours : Proximal policy optimization (PPO) et algorithmes proches.TP : application de PPO à un système simulé. | ||
| S5 | 2h cours, 4h TP | Cours : Apprentissage par renforcement basé modèle. Notions d’efficacité sur les données. Utilisation de MPC et variantes, dont TD-MPC. TP : application de TD-MPC à un système simulé. |
Modalités d'évaluation des acquis d'apprentissage (1ère session)
| Semaine | Indiv/collectif | Présentiel/distanciel | Type d'examen | AAV évalué(s) | Barème % |
|---|---|---|---|---|---|
| 1 | TP | 20% | |||
| 2 | TP | 20% | |||
| 3 | TP | 20% | |||
| 4 | TP | 20% | |||
| 5 | TP | 20% |
2nde session
| Session | Indiv/collectif | Présentiel/distanciel | Type d'examen | AAV évalué(s) | Barème % |
|---|---|---|---|---|---|
Références bibliographiques
- Sutton and Barto, Reinforcement learning, an introduction, MIT Press, 1998 / 2018
- Bishop, Pattern recognition and machine learning, Springer, 2006

