Après une apparition en tant que figurant dans Sortilèges de Christian-Jaque en 1945, Michel Piccoli débute au cinéma dans Le Point du jour de Louis Daquin.
Cependant, c'est surtout au théâtre qu'il s'illustre au début de sa carrière, avec les compagnies Renaud-Barrault et Grenier-Hussot ainsi qu'au Théâtre de Babylone à Paris (géré par une coopérative ouvrière et qui met en scène les pièces d'avant-garde d'Eugène Ionesco ou Samuel Beckett).