Extremal functions for an optimal Sobolev inequality in the conformal class of the sphere (Q1267284)

D'après Hebey-Vaugon, sur une variété riemannienne compacte, on sait qu'il existe une constante \(B\) telle que tout \(u\in H_1\) verifie \((*)\) \(\| u\|_{2n/(n-2)}^2\leq K_n^2\|\nabla u\|_2^2+ B\| u\|_2^2\), \(K_n\) étant la meilleure constante dans l'inégalité de Sobolev. L'auteur note \(B_0\) la plus petite constante \(B\) et étudie sur \((S_n,g)\), \(g\) conforme à la métrique standard \(h\) de \(S_n\), la valeur de \(B_0(g)\) et l'existence éventuelle de fonctions extrémales \(u_0\neq 0\) pour lesquelles \((*)\) est une égalité. Lorsque \(n\geq 4\), l'auteur montre que \(B_0(g)= \frac{n-2}{4(n-1)} K_n^2\sup_{S_n} R_g\) où \(R_g\) est la courbure scalaire de \((S_n,g)\), et qu'il existe des fonctions extrémales si et seulement si \(R_g= \text{Constante}\). La démonstration se fait par l'absurde, après avoir remarqué que \(B_0(g)\geq \frac{n-2}{4(n-1)} K_n^2\sup_{S_n} R_g\), on écrit que l'inf de la fonctionnelle de Yamabe est un invariant conforme. La dimension \(n=3\) est particulière, les développements limités de la fonctionnelle avec les fonctions test habituelles ne donnent rien, on n'a pas l'inégalité ci-dessus. L'auteur montre, \` l'aide d'un résultat de Brézis-Nirenberg, que sur \(S_3\), \(B_0(g)< \frac 18 K_3^2\sup_{S_3} R_g\) pour certaines métriques conformes \(g\), et qu'il existe des fonctions extrémales si et seulement si \(R_g= \text{Constante}\).