Fils du cinéaste Jacques Becker, Jean Becker commence sa carrière en tant que stagiaire dans le film de son père, Touchez pas au grisbi en 1953, film qui contribue à relancer la carrière de Jean Gabin ainsi qu'à lancer celle de Lino Ventura. Il reste assistant-réalisateur des films de Jacques Becker pour Montparnasse 19 (1958) et Le Trou (1959). Il est aussi assistant-réalisateur pour Julien Duvivier et Henri Verneuil.

Son père meurt juste après avoir fini Le Trou, et Jean Becker se lance dans l'aventure de la réalisation avec Un nommé La Rocca avec Jean-Paul Belmondo (1961), qu'il emploiera dans Échappement libre et Tendre Voyou. Ces films obtiendront des succès commerciaux. En 1963, il réalise un court métrage, Signé Berthe et Blanche, avec Gaby Morlaix, Suzanne Dehelly, Vic Laurens.

Après avoir réalisé les épisodes de la série télévisée à succès Les Saintes chéries et Pas de caviar pour tante Olga, incursion inattendue dans le comique farfelu, il fait une pause de près de vingt ans, pendant lesquels il devient "un stakhanoviste du film publicitaire" (dixit Le Monde mai 1983), avant de revenir derrière la caméra pour réaliser L'Été meurtrier, d'après le roman de Sébastien Japrisot, avec Isabelle Adjani et Alain Souchon (1983). Le film est un grand succès critique et commercial. Japrisot scénarisa ensuite Les Enfants du Marais et Un crime au Paradis.

Depuis le succès public et critique d'Élisa avec Vanessa Paradis et Gérard Depardieu, Becker tourne régulièrement avec les mêmes acteurs, entre autres, Jacques Villeret, Suzanne Flon et André Dussollier pour les succès Les Enfants du marais (avec Michel Serrault), Un crime au Paradis (avec Josiane Balasko), reprise du film La Poison de Sacha Guitry, et Effroyables jardins (avec Thierry Lhermitte et Benoît Magimel) d'après le livre éponyme de Michel Quint.

Il a fait tourner Daniel Auteuil et Jean-Pierre Darroussin dans Dialogue avec mon jardinier, sorti en 2007. Puis c'est au tour d'Albert Dupontel de tenir le rôle principal de Deux jours à tuer où il partage l’affiche avec Marie-Josée Croze et Pierre Vaneck.

En septembre 2009, il tourne La Tête en friche, dans sa patrie de la Charente-Maritime, avec Gérard Depardieu et Gisèle Casadesus.

Le film suivant, Bienvenue parmi nous, est un échec et ne fut pas montré à la presse.

Puis en 2014, c'est la chronique hospitalière Bon Rétablissement !, qui est un succès mitigé même si le cinéaste atteint la première place au box-office hebdomadaire.

Son dernier film, tourné en 2017, est Le Collier rouge, adaptation du roman homonyme de Jean-Christophe Rufin.