Fils de Pierre Léaud et de la comédienne Jacqueline Pierreux, Jean-Pierre Léaud apparaît pour la première fois au cinéma dans La Tour, prends garde! (1957, Georges Lampin). Mais sa carrière commence vraiment à l'âge de 15 ans après qu'il réponde à l'annonce dans France-Soir du casting des Quatre Cents Coups de François Truffaut.

Le film, qui est un succès international, est aussi l'une des œuvres fondatrices de la Nouvelle Vague dont Jean-Pierre Léaud devient, avec le personnage d'Antoine Doinel, l'un des acteurs les plus représentatifs. De l'adolescent tourmenté des Quatre cents coups, son personnage fétiche va évoluer et grandir à travers quatre autres films : L'Amour à vingt ans (1962), Baisers volés (1968), Domicile conjugal (1970) et L'Amour en fuite (1979). Il tourne également Les Deux Anglaises et le Continent (1971) et La Nuit américaine (1973) sous la direction de François Truffaut qui l'initie même à la réalisation en le faisant travailler comme assistant sur La Peau douce en 1964.

C'est d'ailleurs comme assistant qu'il est engagé par Jean-Luc Godard pour Une femme mariée (1964), avant de devenir l'un des ses fidèles interprètes dans plusieurs de ses films à l'ambiance pop-art comme Pierrot le Fou (1965), Made in USA (1966) ou La Chinoise (1967). Elevé au biberon de la Nouvelle Vague, il en explore au travers de son jeu décalé et souvent incompris les moindres possibilités en jouant dans des œuvres de plus en plus hermétiques. Déjà avec Deux Anglaises et le Continent, mais surtout avec La Maman et la Putain de Jean Eustache, scandale et échec cuisant de 1973.

Le décès de François Truffaut survenu en 1984 semble marquer la fin d'une époque pour Jean-Pierre Léaud, symbolisée par sa dernière collaboration avec Jean-Luc Godard dans Détective en 1985. Il continue à se mettre en danger en tournant pour des auteurs tels que Benoît Jacquot (1985, Corps et Biens) ou encore Catherine Breillat (1986, 36 fillette), mais s'essaie malgré tout à la comédie populaire dans Les Keufs de Josiane Balasko (1987).

Depuis 1990 et le film J'ai engagé un tueur d'Aki Kaurismaki, le comédien recouvre une certaine aura grâce à des rôles mieux pensés qui le débarrassent de son encombrante enveloppe d'Antoine Doinel. Il tourne entre autres Paris s'éveille (1991, Olivier Assayas), Pour rire! (1997, Lucas Belvaux), Le Pornographe (2001, Bertrand Bonello) et J'ai vu tuer Ben Barka (2005, Serge Le Peron), des choix s'orientant vers un cinéma d'auteur engagé voire polémique. Après une interruption de plusieurs années, l'acteur réapparaît au Festival de Cannes 2009 pour la présentation du film Visage de Tsai Ming-liang, et retrouve Aki Kaurismäki pour Le Havre en 2011, 20 ans après leur dernière collaboration sur La Vie de bohème.