Recouvrement par jauge

Le recouvrement par jauge^[1] est une technique d'optimisation mathématique, structurellement et intentionnellement semblable à la poursuite de base, qui étend cette dernière sur deux points :

• l'espace sous-jacent est un espace euclidien général (au lieu de l'espace vectoriel ${\displaystyle \mathbb {R} ^{n}}$),
• le critère de sélection est une jauge polyédrique définie sur cet espace (au lieu de la norme ℓ¹).

Cette généralisation permet d'appliquer cette technique de recouvrement de données codées, dans des contextes plus variés. Par exemple, on pourra s'intéresser au recouvrement d'objets représentés par des matrices et utiliser la norme nucléaire comme critère de sélection.

Nous renvoyons aux articles « Poursuite de base » et « Acquisition comprimée » pour des indications sur les problématiques pratiques conduisant à des problèmes de ce type. Voir aussi Chandrasekaran et al. 2012.

Connaissances supposées : le vocabulaire de l'optimisation mathématique et de l'algèbre linéaire.

Notations

• Dans cet article, on supposera toujours que ${\displaystyle E}$ et ${\displaystyle F}$ sont deux espaces euclidiens, dont les produits scalaires sont tous deux notés ${\displaystyle \langle \cdot ,\cdot \rangle }$.
• L'image d'une application linéaire ${\displaystyle A}$ est notée ${\displaystyle \operatorname {Im} {(A)}}$ et son noyau est noté ${\displaystyle \operatorname {Ker} {(A)}}$.
• L'opérateur adjoint d'un opérateur linéaire ${\displaystyle A:E\to F}$ est noté ${\displaystyle A^{*}:F\to E}$.
• L'enveloppe affine d'un convexe non vide ${\displaystyle C}$ de ${\displaystyle E}$ est notée ${\displaystyle \operatorname {aff} C}$ et son intérieur relatif est noté ${\displaystyle \operatorname {ir} C}$.
• Le polaire d'une partie ${\displaystyle P}$ de ${\displaystyle E}$ est noté ${\displaystyle P^{\circ }}$.

Recouvrement par jauge polyédrique abstraite

Définition du problème

De manière plus précise, le problème s'écrit comme suit

${\displaystyle (P_{f})\quad \left\{{\begin{array}{l}\inf \;f(x)\\Ax=b,\end{array}}\right.}$

où l'inconnue est un vecteur ${\displaystyle x}$ de ${\displaystyle E}$, ${\displaystyle f:E\to \mathbb {R} \cup \{+\infty \}}$ est une jauge polyédrique (c'est-à-dire dont l'épigraphe est un polyèdre convexe) pouvant donc prendre des valeurs infinies, ${\displaystyle A}$ est une application linéaire de ${\displaystyle E}$ dans ${\displaystyle F}$ et ${\displaystyle b\in F}$.

On note

${\displaystyle {\mathcal {B}}:=\{x\in E\mid f(x)\leqslant 1\},}$

l'ensemble de sous-niveau 1 de la jauge ${\displaystyle f}$, qui joue le rôle de boule-unité (c'est ce qu'il serait si le jauge était une norme). Comme ${\displaystyle f}$ est une jauge polyédrique, ${\displaystyle {\mathcal {B}}}$ est un polyèdre convexe contenant ${\displaystyle 0}$. Il revient au même de se donner ${\displaystyle f}$ et d'en déduire ${\displaystyle {\mathcal {B}}}$ comme ci-dessus, ou de se donner un polyèdre convexe ${\displaystyle {\mathcal {B}}}$ contenant ${\displaystyle 0}$ et d'en déduire la jauge polyédrique ${\displaystyle f}$ par la formule de Minkowski :

${\displaystyle \forall \,x\in E\quad f(x)={\inf }\{t>0\mid x\in t\,{\mathcal {B}}\}.}$

C'est ce qui sera fait dans la section suivante, avec une description plus précise de ${\displaystyle {\mathcal {B}}}$.

Le sous-différentiel de la jauge ${\displaystyle f}$ en ${\displaystyle x}$ joue un rôle important dans les conditions d'existence et d'unicité de solution. Il est noté ${\displaystyle {\mathcal {S}}(x)}$ et sa valeur est donnée par la formule

${\displaystyle {\mathcal {S}}(x):=\operatorname {argmax} _{y\in {\mathcal {B}}^{\circ }}\,\langle y,x\rangle .}$

Contraintes polyédriques

Le modèle de problème ${\displaystyle (P_{f})}$ peut prendre en compte des contraintes polyédriques, c'est-à-dire un problème de la forme

${\displaystyle \left\{{\begin{array}{l}\inf \;f_{0}(x)\\x\in P,\end{array}}\right.}$

où ${\displaystyle f_{0}:E\to \mathbb {R} \cup \{+\infty \}}$ est la jauge d'un polyèdre convexe ${\displaystyle {\mathcal {B}}_{0}\subset E}$ contenant ${\displaystyle 0}$, et ${\displaystyle P}$ est un autre polyèdre convexe de ${\displaystyle E}$. Le polyèdre convexe ${\displaystyle P}$ peut toujours être écrit comme suit

${\displaystyle P=\{x\in E\mid Ax\leqslant b\},}$

où ${\displaystyle A:E\to \mathbb {R} ^{m}}$ est une application linéaire, ${\displaystyle b\in \mathbb {R} ^{m}}$ et l'inégalité agit composante par composante. Donc le problème s'écrit

${\displaystyle \left\{{\begin{array}{l}\inf _{(x,s)\in E\times \mathbb {R} ^{m}}\;f_{0}(x)\\Ax+s=b\\s\geqslant 0.\end{array}}\right.}$

Ce dernier problème peut s'écrire sous la forme d'un problème de recouvrement par jauge sous la forme standard ${\displaystyle (P_{f})}$, à savoir

${\displaystyle \left\{{\begin{array}{l}\inf _{(x,s)\in E\times \mathbb {R} ^{m}}\;f(x,s)\\Ax+s=b,\end{array}}\right.}$

en prenant pour ${\displaystyle f}$ la jauge du polyèdre convexe contenant ${\displaystyle 0}$ suivant :

${\displaystyle {\mathcal {B}}_{0}\times \operatorname {cone} \{e_{1},\ldots ,e_{m}\}={\mathcal {B}}_{0}\times \mathbb {R} _{+}^{m}\subset E\times \mathbb {R} ^{m},}$

où ${\displaystyle e_{i}}$ désigne le ${\displaystyle i}$-ème vecteur de la base canonique de ${\displaystyle \mathbb {R} ^{m}}$. L'équivalence entre ces problèmes repose sur le fait que ${\displaystyle f(x,s)=f_{0}(x)}$ si ${\displaystyle s\geqslant 0}$, et ${\displaystyle f(x,s)=+\infty }$ si ${\displaystyle s\not \geqslant 0}$. C'est en réalité sa polyédricité qui permet d'obtenir la condition nécessaire et suffisante de solution de la proposition suivante, comme en optimisation linéaire.

Ce résultat ne dit rien sur la valeur optimale de ${\displaystyle (P_{f})}$ et celle-ci peut très bien valoir ${\displaystyle +\infty }$ alors que le problème a une solution. Il en sera ainsi si, et seulement si, ${\displaystyle b}$ est dans l'image de ${\displaystyle A}$ (ce qui assure l'existence d'une solution par la proposition) et l'ensemble admissible ne rencontre pas le domaine de ${\displaystyle f}$. Une telle situation (sans intérêt) ne se rencontre pas en optimisation linéaire, car le critère ne prend alors que des valeurs finies.

Des conditions nécessaires et suffisantes assurant l'existence et l'unicité de la solution de ${\displaystyle (P_{f})}$ sont moins aisées à déterminer. On notera que celles présentées ci-dessous^[2] dépendent du point ${\displaystyle {\bar {x}}}$ considéré comme candidat-solution ; elles s'apparentent donc à des conditions d'optimalité d'un point ${\displaystyle {\bar {x}}\in \mathbb {R} ^{n}}$ donné : la première condition, celle caractérisant ${\displaystyle {\bar {x}}}$ comme solution, traduit d'ailleurs l'appartenance de zéro au sous-différentiel de ${\displaystyle f+{\mathcal {I}}_{\mathcal {X}}}$ en ${\displaystyle {\bar {x}}}$ (${\displaystyle {\mathcal {I}}_{\mathcal {X}}}$ est l'indicatrice de l'ensemble admissible ${\displaystyle {\mathcal {X}}}$) et le vecteur ${\displaystyle {\bar {y}}}$ apparaissant dans toutes les conditions est une solution du problème dual (voir la section « Dualité lagrangienne »).

Dans le résultat ci-dessous, on note ${\displaystyle \operatorname {Sol} (P_{f})}$ l'ensemble des solutions du problème ${\displaystyle (P_{f})}$.

Existence et unicité de solution

Dualité lagrangienne

Le problème dual lagrangien de ${\displaystyle (P_{f})}$ s'écrit comme le problème en ${\displaystyle y\in F}$ suivant :

${\displaystyle (D_{f})\quad \left\{{\begin{array}{l}\sup _{y}\;\langle b,y\rangle \\A^{*}y\in {\mathcal {B}}^{\circ }.\end{array}}\right.}$

Recouvrement par jauge polyédrique sous description primale

Cette section donne les détails du problème de recouvrement par jauge polyédrique lorsque celle-ci est vue comme jauge d'un polyèdre convexe ${\displaystyle {\mathcal {B}}}$, lequel est décrit comme une enveloppe convexe de points plus une enveloppe conique de directions (description primale ou interne d'un polyèdre convexe).

Définition du problème

Le problème considéré s'écrit comme dans le cas abstrait, à savoir

${\displaystyle (P_{f})\quad \left\{{\begin{array}{l}\inf \;f(x)\\Ax=b,\end{array}}\right.}$

mais la jauge polyédrique ${\displaystyle f}$ est définie comme jauge d'un polyèdre convexe ${\displaystyle {\mathcal {B}}}$ par la formule

${\displaystyle \forall x\in E\quad f(x)={\inf }\{t>0\mid x\in t\,{\mathcal {B}}\}.}$

Le polyèdre convexe ${\displaystyle {\mathcal {B}}}$ est décrit comme suit :

${\displaystyle {\mathcal {B}}=\operatorname {co} \{c_{i}\mid i\in I\}+\operatorname {cone} \{d_{j}\mid j\in J\},}$

où les points ${\displaystyle c_{i}}$ sont dans ${\displaystyle E}$ et en nombre fini (${\displaystyle I}$ est fini) et les directions ${\displaystyle d_{j}}$ sont dans ${\displaystyle E}$ et en nombre fini (${\displaystyle J}$ est fini). Tout polyèdre convexe peut s'écrire de cette manière. On doit supposer que

${\displaystyle 0\in {\mathcal {B}}}$

pour que la jauge associée s'annule en l'origine. Mais on ne suppose pas que ${\displaystyle 0}$ est intérieur à ${\displaystyle {\mathcal {B}}}$, si bien que ${\displaystyle f}$ peut prendre la valeur ${\displaystyle +\infty }$. Comme ${\displaystyle {\mathcal {B}}}$ est fermé, la jauge ${\displaystyle f}$ est « fermée », c'est-à-dire semi-continue inférieurement.

Soient ${\displaystyle I_{0}\subset I}$ et ${\displaystyle J_{0}\subset J}$. Il est utile d'introduire les applications linéaires

${\displaystyle {\begin{array}{c}C_{I_{0}}:\alpha _{I_{0}}\in \mathbb {R} ^{|I_{0}|}\mapsto C_{I_{0}}\alpha _{I_{0}}:=\sum _{i\in I_{0}}\alpha _{i}c_{i}\in E,\quad C:=C_{I},\\D_{J_{0}}:\beta \in \mathbb {R} ^{|J_{0}|}\mapsto D_{J_{0}}\beta :=\sum _{j\in J_{0}}\beta _{j}d_{j}\in E,\quad D:=D_{I}.\end{array}}}$

On adopte la notation matricielle pour l'application linéaire

${\displaystyle (C_{I_{0}}~D_{J_{0}}):(\alpha _{I_{0}},\beta _{J_{0}})\in \mathbb {R} ^{|I_{0}|}\times \mathbb {R} ^{|J_{0}|}\mapsto (C_{I_{0}}~D_{J_{0}})(\alpha _{I_{0}},\beta _{J_{0}})=C_{I_{0}}\alpha _{I_{0}}+D_{J_{0}}\beta _{J_{0}}\in E}$

et l'on note ${\displaystyle (C~D):=(C_{I}~D_{J})}$. Avec ces notations, l'ensemble ${\displaystyle {\mathcal {B}}}$ s'écrit aussi

${\displaystyle {\mathcal {B}}=\{C\alpha +D\beta \mid \alpha \in \Delta _{I},~\beta \in \mathbb {R} _{+}^{|J|}\},}$

où ${\displaystyle \Delta _{I}:=\{\alpha \in \mathbb {R} _{+}^{|I|}\mid {\sum }_{i\in I}\alpha _{i}=1\}}$ est le simplexe unité de ${\displaystyle \mathbb {R} ^{|I|}}$.

Grâce à la condition ${\displaystyle 0\in {\mathcal {B}}}$, on a l'équivalence

${\displaystyle f(x)=0\qquad \Longleftrightarrow \qquad x=D\beta ~~{\mbox{pour un}}~~\beta \geqslant 0~~({\mbox{ou}}~~x=0~~{\mbox{si}}~~J=\varnothing ).}$

Le polaire de l'ensemble ${\displaystyle {\mathcal {B}}}$ introduit ci-dessus s'écrit

${\displaystyle {\mathcal {B}}^{\circ }=\{x^{*}\in E\mid \forall i\in I~~\langle x^{*},c_{i}\rangle \leqslant 1{\text{ et }}\forall j\in J~~\langle x^{*},d_{j}\rangle \leqslant 0\}.}$

Alors le sous-différentiel de la jauge ${\displaystyle f}$ en ${\displaystyle x}$ est donné par la formule

${\displaystyle \displaystyle {\mathcal {S}}(x):=\displaystyle \operatorname {argmax} \limits _{\begin{array}{c}x^{*}{\text{ tel que}}\\\forall i\in I\quad \langle x^{*},c_{i}\rangle \leqslant 1{\text{ et }}\\\forall j\in J\quad \langle x^{*},d_{j}\rangle \leqslant 0\end{array}}\,\langle x^{*},x\rangle .}$

Existence de solution

Le résultat d'existence de solution II du cas abstrait devient le suivant.

Les coefficients ${\displaystyle {\bar {\alpha }}}$ et ${\displaystyle {\bar {\beta }}}$ permettant de représenter ${\displaystyle {\bar {x}}}$ par ${\displaystyle {\bar {x}}=C{\bar {\alpha }}+D{\bar {\beta }}}$ dans ce résultat sont en réalité les multiplicateurs de Lagrange associés aux contraintes du problème d'optimisation linéaire définissant ${\displaystyle {\mathcal {S}}({\bar {x}})}$. Au second point, ces coefficients ${\displaystyle {\bar {\alpha }}}$ et ${\displaystyle {\bar {\beta }}}$ sont des multiplicateurs optimaux satisfaisant en plus la stricte complémentarité.

Existence et unicité de solution

Le résultat d'existence et d'unicité de solution du cas abstrait devient le suivant.

La seconde condition semble plus forte que la troisième, mais ce résultat montre qu'il n'en est rien. Cette seconde condition est utilisée par l'algorithme de détection d'unicité présenté plus loin. Cet algorithme détermine d'abord des ensembles d'indices ${\displaystyle I_{+}\subset I}$ et ${\displaystyle J_{+}\subset J}$ satisfaisant les deux premiers points de la condition 2 et détermine ensuite si l'unicité a lieu en vérifiant si ${\displaystyle \operatorname {Ker} {(A)}\cap \operatorname {Im} {(C_{I_{+}}~D_{J_{+}})}=\{0\}}$.

Méthode de résolution

La méthode de résolution du problème de recouvrement par jauge sous forme primale ${\displaystyle (P_{f})}$ décrite dans cette section transforme ce problème en le problème d'optimisation linéaire suivant

${\displaystyle (P'_{f})\quad \left\{{\begin{array}{l}\sup _{(\alpha ,\beta ,t)\in \mathbb {R} ^{|I|}\times \mathbb {R} ^{|J|}\times \mathbb {R} }\;t\\A(C\alpha +D\beta )=tb\\(\alpha ,\beta )\in \Delta _{I}\times \mathbb {R} _{+}^{|J|},\end{array}}\right.}$

où les opérateurs linéaire ${\displaystyle C}$ et ${\displaystyle D}$ ont été définis ci-dessus et ${\displaystyle \Delta _{I}}$ est le simplexe unité de ${\displaystyle \mathbb {R} ^{|I|}}$. En quelques mots, dans le problème ${\displaystyle (P_{f})}$, l'ensemble de sous-niveau un ${\displaystyle {\mathcal {B}}}$ de ${\displaystyle f}$ est mis à l'échelle de manière que sa frontière vienne en contact avec le sous-espace affine ${\displaystyle {\mathcal {X}}=\{x\in E\mid Ax=b\}}$ (par l'homogénéité positive de ${\displaystyle f}$ cela revient à trouver son bon ensemble de sous-niveau), tandis que dans ${\displaystyle (P'_{f})}$, le même sous-espace affine ${\displaystyle {\mathcal {X}}}$ est translaté de manière à venir en contact avec la frontière de ${\displaystyle {\mathcal {B}}}$. Le sens de cette équivalence entre ${\displaystyle (P_{f})}$ et ${\displaystyle (P'_{f})}$ est précisé dans le résultat suivant.

Le fait que le problème ${\displaystyle (P_{f})}$ soit équivalent au problème d'optimisation linéaire ${\displaystyle (P_{f}')}$ rend possible la résolution de ${\displaystyle (P_{f})}$ en temps polynomial, par exemple en utilisant un algorithme de points intérieurs.

Le dual lagrangien de ${\displaystyle (P_{f}')}$ s'écrit

${\displaystyle (D_{f}')\quad \left\{{\begin{array}{l}\inf _{(y,s)\in F\times \mathbb {R} }\;s,\\\forall i\in I\quad \langle A^{*}y,c_{i}\rangle \leqslant s,\\\forall j\in J\quad \langle A^{*}y,d_{j}\rangle \leqslant 0,\\\langle b,y\rangle =1.\end{array}}\right.}$

Il n'y a pas de saut de dualité :

Détection de l'unicité

Le résultat d'existence et unicité de solution ci-dessus permet de mettre au point un algorithme détectant l'unicité de solution du problème ${\displaystyle (P_{f})}$.

Annexes

Notes

Bibliographie

• (en) V. Chandrasekaran, B. Recht, P. A. Parrilo et A. S. Willsky, « The convex geometry of linear inverse problems », Foundations of Computational Mathematics, vol. 12, n^o 6,‎ 2012, p. 805-849 (DOI 10.1007/s10208-012-9135-7, arXiv 1012.0621)
• (en) J. Ch. Gilbert, « On the solution uniqueness characterization in the L1 norm and polyhedral gauge recovery », Journal of Optimization Theory and Applications, vol. 1, n^o 1,‎ 2016, p. 1-32 (DOI 10.1007/s10957-016-1004-0, lire en ligne)

• Portail de l'analyse