Après avoir milité comme syndicaliste chrétien, il adhère aux partis gaullistes.
Il est élu pour la première fois député en 1962, président du conseil général des Vosges en 1976 et maire de Remiremont en 1983.
Entre 1972 et 1977, sous les présidences de Georges Pompidou et de Valéry Giscard d'Estaing, il est plusieurs fois secrétaire d’État, détenant successivement cinq portefeuilles différents, dont ceux du Budget et des Relations avec le Parlement.