Philip Van Zandt wurde 1904 in Amsterdam geboren, der genaue Zeitpunkt seiner Übersiedlung nach Amerika ist unbekannt. Er selbst gab an, bereits in seiner frühen Jugend übergesiedelt zu sein und mit 15 Jahren Hollywood besucht zu haben. Andere Quellen besagen, dass er erst Ende der 1920er-Jahre in die USA gekommen sei, als er bereits in seinem Heimatland erste Schauspielerfahrungen gesammelt hatte. Im Juni 1931 machte er in der Komödie A Regular Guy sein Broadwaydebüt, hier trat er bis 1938 in zehn weiteren Produktionen auf. Anschließend wandte er sich dem Filmgeschäft zu.

Zwischen 1939 und 1958 trat Van Zandt in fast 250 Film- und Fernsehproduktionen in Hollywood auf, was ihn zu einem vielbeschäftigten Schauspieler machte, wenngleich seine Rollen meistens nur kleiner Natur waren. Wie er besetzt wurde, hing oft davon ab, ob er seinen dünnen Schnurrbart trug: Ohne diesen wurde er als Durchschnittskerl besetzt, mit diesem als Schurke. In vielen Kurzfilmen war er als Gegenspieler der Three Stooges zu sehen, oft als Verbrecher, Miesepeter oder verrückter Wissenschaftler. In den Komödien Air Raid Wardens (1943) und The Big Noise (1944) mimte er auch Gegensacher von Laurel und Hardy. Im Zweiten Weltkrieg spielte er wegen seiner europäischen Herkunft in Propagandafilmen oft feindliche Spione oder Offiziere, etwa in Tarzan und die Nazis. In die Filmgeschichte schrieb er sich 1941 auch durch eine kleine, aber wichtige Rolle in Citizen Kane: Van Zandt spielt zu Filmanfang den Chefredakteur der Nachrichtensendung, der den jungen Reporter auf die Suche nach der Bedeutung des Wortes „Rosebud“ losschickt.

Eine von ihm gegründete Schauspielschule blieb erfolglos, zugleich verspielte Van Zandt durch Glücksspielsucht in den 1950er-Jahren sein gesamtes Vermögen.