C’est Gainsbourg qui avait composé la musique du 1er film de Bertrand Blier, « Si j’étais un espion » en 1967. Mais il a refusé quand le réalisateur lui a demandé une musique pour son 2e film avec Depardieu, Dewaere et Miou Miou, « Les Valseuses » en 1974. C’est donc le violoniste Stéphane Grappelli, ancien compagnon de route de Django Reinhardt entre les deux guerres mondiales, qui va s’en charger et le choix est particulièrement judicieux. La musique est semi-improvisée, tout en swing léger à l’image du thème du film, « Ballade », entré dans les mémoires, une petite bouffée d’air frais. Une musique qui colle bien à l’aspiration à la liberté des personnages principaux. C’est Georges Delerue qui a composé la musique de « Calmos » en 1976, un très grand compositeur.