Lors de cet exposé, je présenterai mes travaux de thèse portant sur les ondes et instabilités dans les écoulements tournants à surface libre (thèse effectuée à l’IMFT avec David Fabre et Laurent Lacaze). Nous nous intéresserons en particulier à la situation générique d'un récipient cylindrique partiellement rempli d'un fluide incompressible et dont le fond est en rotation rapide. De façon intéressante, des motifs polygonaux de surface libre connus sous le nom de « polygones tournants » peuvent être observés dans cette expérience. Cette étude, principalement théorique et numérique, vise à comprendre les mécanismes à l’origine de ces ruptures de symétrie de surface libre en considérant notamment des approches de stabilité globale. Dans ce but, des champs de base modèles tels que la rotation solide (seau de Newton), la rotation potentielle et le tourbillon de Rankine sont considérés. Nous présenterons en particulier une étude détaillée du cas potentiel, un modèle adéquat pour l’expérience à fond tournant dans le régime des fortes rotations. Dans ce cas, nous montrerons que des instabilités sont obtenues, et que les tendances observées sont en bon accord qualitatif avec les résultats expérimentaux. Nous montrerons ensuite comment les résultats de stabilité globale ont permis de déceler la présence de nouveaux états polygonaux dans l’expérience à fond tournant (expériences effectuées au DTU en collaboration avec Tomas Bohr). Enfin, des modèles simplifiés seront mis en œuvre pour comprendre plus en détail les mécanismes de l'instabilité.