Zadebiutował jako aktor na scenie w czasie ostatniego roku studiów w St. Louis' Washington University. Był członkiem Mama's Pot Roast i słuchaczem Actors' Studio w Nowym Jorku. Występował w teatrach off-Broadway, m.in. w "Kingdom of Earth" Johna Mitchella. Po raz pierwszy na ekranie pojawił się w filmie Tima Robbinsa "Przed egzekucją". Trzy lata później zagrał niewielką rolę Raoula - syna Atosa (John Malkovich) i ukochanego Christine (Judith Godreche), który na rozkaz Ludwika XIV wyrusza na wojnę i ginie w obrazie "Człowiek w żelaznej masce". Sarsgaard związany jest przede wszystkim z kinem niezależnym. Zwrócił na siebie uwagę rolą Johna Lottera w filmie Kimberly Peirce "Nie czas na łzy", opartym na autentycznych wydarzeniach (historii śmierci Teeny Brandon). W kontrowersyjnym obrazie Wayne Wanga "Centrum świata" wcielił się w młodego biznesmena, prowadzącego perwersyjną grę z striptizerką. W świadomości szerszej publiczności jednak zaistniał dopiero, dzięki udziałowi w widowiskowym dramacie Kathryn Bigelow "K-19: The Widowmaker", gdzie pojawił się u boku Harrisona Forda.