Proposition de thèse : Dynamique non-régulière : applications à l’accélération d’algorithmes en optimisation convexe.


L’ED SISMI propose le sujet de thèse suivant :

Intitulé du sujet : Dynamique non-régulière : applications à l’accélération d’algorithmes en optimisation convexe.

Ce projet serait sous la direction de Samir ADLY du laboratoire XLIM à l’Université de Limoges

Co-directeurs renseignés : /

Les financement sont : non acquis : projet région Nouvelle Aquitaine a été déposé.

Le début de la thèse est prévu pour : 10/2020

Mots clés du sujet : Analyse variationnelle et non-lisse, Optimisation, systèmes dynamiques non-réguliers

Présentation du sujet : Les systèmes dynamiques non-réguliers représentent une classe de problèmes d’évolution où se produit une non-régularité ou un manque de différentiabilité des données ou des fonctions solutions. En raison du manque de régularité, les méthodes d’analyse mathématique classique ne peuvent pas être appliquées dans ce contexte et en conséquence les outils communs de simulation de ces problématiques ne sont pas appropriés. Au sein du laboratoire XLIM nous proposons d’aborder ces questions par une approche des systèmes dynamiques non-réguliers qui offrent un cadre mathématique rigoureux (qui a déjà prouvé son efficacité dans l’étude des systèmes mécaniques avec contact et/ou frottement, de la robotique et de l’électronique). Ceci est le thème de l’analyse non-lisse, une branche des mathématiques appliquées qui étudie la différenciation généralisée des fonctions et des opérateurs.

Objectifs : L’objectif de cette thèse est l’utilisation de systèmes dynamiques non-réguliers pour concevoir des algorithmes efficaces pour résoudre des problèmes d’optimisation composite. En effet, depuis les travaux pionniers de Polyak et Nesterov, les méthodes inertielles sont de plus en plus utilisées pour accélérer la méthode du gradient en optimisation. La combinaison de la dynamique non-régulière avec frottement sec et l’optimisation numérique est complètement nouvelle dans la littérature. Elle nous permet de proposer des algorithmes inertiels du gradient proximal efficaces qui peuvent être utilisés en apprentissage statistique.

Description du sujet : La partie importante de cette thèse est l’utilisation de systèmes dynamiques non-réguliers pour concevoir des algorithmes efficaces pour résoudre des problèmes d’optimisation composite. En effet, depuis les travaux pionniers de Polyak et Nesterov, les méthodes inertielles sont de plus en plus utilisées pour accélérer la méthode du gradient en optimisation. Plus récemment, avec le Professeur H. Attouch dans les articles [2] et [3], nous avons montré que l’introduction du frottement sec de type Coulomb dans la dynamique continue non-régulière du second ordre a quelques effets positifs. En fait, la trajectoire converge en temps fini vers un équilibre. En utilisant une discrétisation temporelle de cette dynamique, on obtient une nouvelle classe d’algorithmes de gradient proximal où la fonction non-lisse entre par sa fonction proximale et la fonction lisse par son gradient. Nous avons montré dans [3] que sous l’hypothèse du frottement sec, la suite générée par les algorithmes inertiels proximaux possède une propriété de convergence finie i.e. la suite converge en un nombre fini d’itérations. Nous avons mené des expériences numériques approfondies, en utilisant les profils de performance, qui ont mis en évidence l’efficacité des deux variantes de la méthode accélérée de Nesterov avec frottement sec. Le frottement sec agit comme un seuil doux sur la vitesse et force le système à s’arrêter. Du point de vue de l’optimisation, le point limite n’est pas un point critique du potentiel à minimiser. Il satisfait une condition stationnaire impliquant le gradient de la fonction à minimiser et le sous-différentiel du frottement sec en zéro (qui doit-être pris suffisamment petit). Toutes les preuves de convergence sont basées sur l’analyse de Lyapunov et l’utilisation de fonctions énergétiques appropriées. Dans cette thèse, nous aimerions étudier des algorithmes proximaux inertiels qui combinent le frottement sec de type Coulomb avec la méthode du gradient accéléré de Nesterov, dans le cas du terme visqueux évanescent. Comme le montrent les expériences numériques mises en évidence dans [3], il serait intéressant d’effectuer la même analyse de convergence et de prouver la convergence finie de ces algorithmes et de leurs variantes. Le terme visqueux évanescent a été introduit par Su, Boyd et Candès dans l’article important dans le cadre des équations différentielles ordinaires pour l’étude d’une méthode de gradient accélérée de type Nesterov en optimisation. Il serait intéressant de conduire la même analyse pour le frottement sec de type Coulomb. L’étude des algorithmes d’optimisation inertiels du gradient proximal associant l’amortissement entraîné par le Hessien et le frottement sec a été étudiée dans l’article [4]. Dans ce contexte, les méthodes de décompositions pour les problèmes d’optimisation structurés ont été examinées dans le cas du problème du LASSO.
[1] S. Adly, A variational approach to nonsmooth dynamics. Applications in unilateral mechanics and electronics. SpringerBriefs in Mathematics. Springer, Cham, 2017. ISBN: 978-3-319-68657-8.
[2] S. Adly, H. Attouch. Finite convergence of proximal-gradient inertial algorithms with dry friction damping, (soumis en octobre 2019) disponible sur HAL CNRS.
[3] S. Adly, H. Attouch. Finite convergence of proximal-gradient inertial algorithms combining dry friction with Hessian-driven damping, (soumis en

Compétences acquises à l’issue de la thèse : – Compétence dans le domaine des mathématiques de l’optimisation et ses applications.

Présentation de l’équipe d’accueil : L’équipe coordonnant le projet est l’équipe Mathis du Laboratoire XLIM. L’axe Mathis regroupe les équipes de recherche en mathématiques et en sécurité de l’information de l’Université de Limoges et relève du pôle M2I (Mathématiques, Informatique, Image) d’XLIM.
Mathis compte actuellement 13 Professeurs, 2 Professeurs émérites, 22 Maîtres de Conférences (dont 5 HDR), 1 IR-CNRS, 1.5 ITA, 1 Post-doctorant et 24 doctorants, tous localisés sur le site de la Faculté des Sciences et Techniques. Les membres des équipes relèvent des sections CNU 25, 26 et 27.
C’est dans l’équipe MOD que le doctorant fera sa recherche. Les thèmes de recherche de l’équipe MOD sont l’optimisation numérique, l’optimisation non-lisse, l’analyse variationnelle et non-lisse, les EDP, le contrôle optimal et le transport optimal de masse. Des outils d’analyse et des méthodes numériques sont développés pour l’étude et la résolution de problèmes d’optimisation et variationnels issus des sciences de l’ingénieur et de l’environnement. L’équipe a acquis notoriété et visibilité dans ces domaines.

Compétences souhaitées pour les candidats : Des compétences dans les domaines suivants sont nécessaires :
– Analyse convexe
– Optimisation numérique
– Stabilité de Lyapunov des systèmes dynamiques

Pour plus d’informations et pour candidater, merci de contacter :

Date de dépôt : 04/14/2020 à  14 h 34 min




ED SISMI