Michel Jacques Daniel Piccoli est le fils d'Henri Piccoli, violoniste et de Marcelle Expert-Bezançon (1892-1990), pianiste et fille de l'industriel et homme politique français Charles Expert-Bezançon. En 1954, Michel Piccoli se marie avec l'actrice Éléonore Hirt avec qui il a une fille, Anne-Cordélia Piccoli. En 1966, il épouse la chanteuse Juliette Gréco, puis en 1978 la scénariste Ludivine Clerc, avec qui il adopte deux enfants d'origine polonaise, Inord et Missia.

Placé dans un établissement pour enfants à problèmes, les engagements du jeune Piccoli, se font en opposition à son grand-père maternel, sénateur de la IIIe République, financier du Parti radical, et important industriel de la peinture, accusé par la gauche syndicale et par Georges Clemenceau, d'avoir intoxiqué ses ouvriers à travers le blanc de plomb qui cause le saturnisme.

Michel Piccoli suivre ensuite une formation de comédien d'abord auprès d'Andrée Bauer-Théraud puis au cours Simon. Après une apparition en tant que figurant dans "Sortilèges" de Christian-Jaque en 1945, Michel Piccoli débute au cinéma dans "Le Point Du Jour" de Louis Daquin. Au théâtre il s'illustre avec les compagnies Renaud-Barrault et Grenier-Hussot ainsi qu'au Théâtre de Babylone. Remarqué dans le film "French Cancan" en 1954, il poursuit sur les planches et travaille avec les metteurs en scène Jacques Audiberti, Jean Vilar, Jean-Marie Serreau, Peter Brook, Luc Bondy, Patrice Chéreau ou encore André Engel, et se fait également connaître dans des téléfilms populaires. Devenu athée après un deuil familial, il rencontre en 1956 Luis Buñuel, et prend ironiquement le rôle d'un prêtre dans "La Mort En Ce Jardin". En 1959, il tourne "Le Rendez-Vous De Noël", court métrage d’André Michel d’après la nouvelle de Malek Ouary "Le Noël Du Petit Cireur", à Alger. Les années 1960 sonnent sa consécration, remarqué dans "Le Doulos" de Jean-Pierre Melville, il est révélé à l'internationale avec "Le Mépris" de Jean-Luc Godard aux côtés de Brigitte Bardot. Dès lors, il tourne avec les plus grands cinéastes français et internationaux comme Alfred Hitchcock, Luis Buñuel , Youssef Chahine, Manoel de Oliveira... Il entame la décennie 1980 par le prix d'interprétation au festival de Cannes en 1980, avec "Le Saut Dans Le Vide "de Marco Bellocchio, et celui du festival de Berlin en 1982, avec "Une Étrange Affaire" de Pierre Granier-Deferre. Il travaille avec Jacques Doillon , Leos Carax, avant de s'essayer lui-même à la réalisation. En 2001, il a reçu le IX Prix Europe pour le théâtre. Il fait partie du jury du 60e Festival de Cannes en 2007, présidé par Stephen Frears. En 2011, il joue dans "Habemus Papam" de Nanni Moretti. Le dernier film où apparait Michel Piccoli est le film "Le Goût Des Myrtilles", de Thomas de Thiers en 2013.

Engagé politiquement à gauche, membre du Mouvement de la Paix (communiste), Michel Piccoli s'est illustré par ses prises de position contre le Front National, et s'est mobilisé pour Amnesty International. Michel Piccoli meurt le 12 mai 2020 à la suite d’un accident vasculaire cérébral dans son manoir à Saint-Philbert-sur-Risle dans l'Eure. Ses obsèques ont lieu à Évreux le 19 mai 2020, là où il est incinéré, ses cendres sont dispersées au sein de la propriété familiale.