Résumé : The nonlinear Schrödinger equation appears in different fields of physics, for example in the theory of Bose-Einstein condensates or in wave propagation models. From a mathematical point of view, the study of this equation is interesting and delicate, notably because it can have a very rich set of solutions with various behaviours.

In this thesis, we have been interested in standing waves, which satisfy an elliptic partial differential equation. When this equation is seen as a singularly perturbed problem, its solutions concentrate, in the sense that they converge uniformly to zero outside some concentration set, while they remain positive on this set.

We have obtained three kind of new results. Firstly, under symmetry assumptions, we have found solutions concentrating on a sphere. Secondly, we have obtained the same type of solutions for the Schrödinger-Poisson system. The method consists in applying the mountain pass theorem to a penalized problem. Thirdly, we have proved the existence of solutions of the nonlinear Schrödinger equation concentrating at a local maximum of the potential. These solutions are found by a more general minimax principle. Our results are characterized by very weak assumptions on the potential./

L'équation de Schrödinger non-linéaire apparaît dans différents domaines de la physique, par exemple dans la théorie des condensats de Bose-Einstein ou dans des modèles de propagation d'ondes. D'un point de vue mathématique, l'étude de cette équation est intéressante et délicate, notamment parce qu'elle peut posséder un ensemble très riche de solutions avec des comportements variés.

Dans cette thèse , nous nous sommes intéressés aux ondes stationnaires, qui satisfont une équation aux dérivées partielles elliptique. Lorsque cette équation est vue comme un problème de perturbations singulières, ses solutions se concentrent, dans le sens où elles tendent uniformément vers zéro en dehors d'un certain ensemble de concentration, tout en restant positives sur cet ensemble.

Nous avons obtenu trois types de résultats nouveaux. Premièrement, sous des hypothèses de symétrie, nous avons trouvé des solutions qui se concentrent sur une sphère. Deuxièmement, nous avons obtenu le même type de solutions pour le système de Schrödinger-Poisson. La méthode consiste à appliquer le théorème du col à un problème pénalisé. Troisièmement, nous avons démontré l'existence de solutions de l'équation de Schrödinger non-linéaire qui se concentrent en un maximum local du potentiel. Ces solutions sont obtenues par un principe de minimax plus général. Nos résultats se caractérisent par des hypothèses très faibles sur le potentiel.