Résumé : In satellite communications, non-linear interference is created by the non-linear power amplifier aboard the satellite. Even in the case of a memoryless power amplifier, the channel is a non-linear system with memory due to the presence of linear filters on ground and aboard the satellite. The non-linear interference degrades the system performance, especially when considering high-order modulations or in case of several signals being amplified by the same power amplifier. In this thesis, we have proposed algorithms at the transmitter and at the receiver to digitally compensate this interference. In particular, a new predistortion algorithm has been proposed, which significantly improves state-of-the-art algorithms. Since the complexity of this algorithm is an issue, low-complexity algorithms have also been proposed and achieve almost the same performance as the initial algorithm. We have also proposed joint predistortion and turbo-equalization algorithms to further improve the system performance. / En communications par satellite, de l’interférence non-linéaire est créée par l’amplificateur de puissance non-linéaire à bord du satellite. Même si l’amplificateur peut être considéré comme sans mémoire, le canal est malgré tout un système non-linéaire avec mémoire de par la présence de filtres linéaires au sol ou à bord du satellite. L'interférence non-linéaire dégrade les performances du système, en particulier lorsqu’on considère des modulations d’ordre élevé ou plusieurs signaux amplifiés par le même amplificateur de puissance. Dans cette thèse, nous avons proposé des algorithmes à l’émetteur et au récepteur pour compenser numériquement cette interférence. En particulier, nous avons proposé un nouvel algorithme de prédistorsion qui améliore de façon significative les algorithmes de l’état-de-l’art. La complexité de l’algorithme étant très élevée, nous avons proposé des algorithmes de plus faible complexité atteignant pratiquement les mêmes performances par rapport à l’algorithme initial. Nous avons aussi proposé des algorithmes de prédistorsion et d’égalisation conjointes, permettant d'atteindre des performances plus élevées qu'avec la prédistorsion seule.