Zunächst als Vaudeville- und Burlesque-Künstler unterwegs, trat Gus Schilling zwischen 1928 und 1931 unter anderem dreimal am New Yorker Broadway auf, ehe er sich Orson Welles’ Mercury Theatre anschloss und in mehreren Radiohörspielen zum Einsatz kam. Ab 1940 wirkte er schließlich auch in US-amerikanischen Filmen mit und war dabei zumeist in komischen Nebenrollen zu sehen, wie beispielsweise in den Filmmusicals In der Hölle ist der Teufel los! (1941) und Du warst nie berückender (1942), wo er neben Fred Astaire und Rita Hayworth den Sekretär von Adolphe Menjou spielte. Er trat aber auch in insgesamt fünf Filmen von Orson Welles auf: Citizen Kane (1941), Der Glanz des Hauses Amberson (1942), Die Lady von Shanghai (1947), Macbeth – Der Königsmörder (1948) und Im Zeichen des Bösen (1958). Letzterer wurde erst nach Schillings Tod veröffentlicht.

Schilling war mit der Burlesque-Künstlerin Betty Rowland verheiratet. Die Ehe endete jedoch in Scheidung. Schilling, der ein starker Raucher gewesen war, starb 1957 vier Tage vor seinem 49. Geburtstag in seinem Apartment in Hollywood an einem Herzinfarkt.