En 1948, Moustache rejoint Les Lorientais, l’orchestre de Claude Luter, avec lequel il se produit dans les clubs de Saint-Germain-des-Prés. Son surnom lui vient de ses belles bacchantes. Avec Luter, il accompagne assez régulièrement Sidney Bechet.
À partir de 1950, il dirige ses propres formations (Les Sept Complices puis Les Gros Minets). Avec le groupe Moustache et ses Moustachus, dès 1956, il enregistre, comme batteur et chanteur, plusieurs 45 tours EP de rock 'n' roll parodique comme Le Croque-Crâne-Creux, sur un texte de Boris Vian.
En 1967, il forme le groupe Les Gros Minets avec notamment le pianiste et chanteur Jean Constantin.
En 1978, il forme le groupe Les Petits Français (avec notamment Marcel Zanini, Michel Attenoux et François Guin), qui enregistre, entre autres, des reprises en jazz de chansons de Georges Brassens.