Сергей Филиппов родился в Саратове в рабочей семье. Отец был слесарем, а мать портнихой. В школе Сергей Филиппов учился неважно, а в старших классах даже прослыл хулиганом. На уроке химии в отсутствие учителя он смешал соляную кислоту с железными опилками, добавил пару реактивов. После такого эксперимента по всей школе распространился ужасно резкий запах. Занятия были сорваны, а Филиппова исключили из школы. После исключения из школы устроился учеником пекаря в частной пекарне. Но эта работа его интересовала мало, и в течение последующих месяцев он перепробовал несколько профессий, , пока случай не привёл его в балетную студию. Занятия настолько увлекли Сергея, что через несколько недель он считался лучшим учеником и перед ним открывалось блестящее будущее в балете. В 1929 году по совету преподавателей Филиппов отправился в Москву, поступать в балетное училище при Большом театре. Приехав в столицу, он узнал, что приёмные экзамены уже закончились, и по совету знающих людей отправился в Ленинград, в хореографическое училище. Но и на эти экзамены он опоздал и подал документы в только что открывшийся эстрадно-цирковой техникум, куда и был принят. Преподаватели прочили одарённому студенту блестящее будущее и, после окончания техникума, в 1933 году Сергей Филиппов был принят в труппу Театра оперы и балета. Карьера балетного танцора оказалась слишком короткой - во время очередного спектакля Филиппову стало плохо. Приехавшие врачи констатировали сердечный приступ и посоветовали уйти из балета. Филиппов поступил в эстрадный театр-студию. Он много выступал на эстрадных площадках Ленинграда и во время одного из концертов его заметил Николай Павлович Акимов, предложивший молодому актёру перейти в Театр комедии. В 1935-1965 годах - актёр Ленинградского театра комедии, с 1965 года - киностудии «Ленфильм». Популярность принесли ему кинороли в фильмах «Укротительница тигров» (1954), «Карнавальная ночь» (1956), «Девушка без адреса» (1957), «12 стульев» (1971), «Иван Васильевич меняет профессию» (1973). Филиппов был мастером как больших и сложных ролей, так и эпизодов. Филиппов в 1940-1960-е годы был очень популярен в Ленинграде и крупных городах страны. В 1965 году у него была обнаружена опухоль головного мозга. В 1971 году перед съемками «12 стульев» у актера начались сильные головные боли от обнаруженного рака мозга, и поэтому Гайдай пригласил Ростислава Плятта, утвердив его на роль Кисы. Однако Филиппов заявил, что будет сниматься в любом случае. Ситуация разрешилась, когда слухи о настойчивом желании Филиппова дошли до Плятта, и он сам уступил роль Кисы Филиппову. Несмотря на небольшой шанс на улучшение, Сергей Филиппов после съёмок успешно прошёл лечение и прожил ещё 20 лет, сыграв свою последнюю роль также у Леонида Гайдая. Похоронен Сергей Филиппов на Северном кладбище, рядом с Антониной Голубевой. Питерская гильдия киноактёров установила на могиле бюст. За несколько дней до смерти актёр рассказал Любови Тищенко о своей мечте: «Знаешь, я ведь всю жизнь хотел сыграть положительную трагическую роль, а мне доставались одни мерзкие типы, - вздыхал Филиппов. - Я даже плакал, когда узнал, что главная роль в фильме „Когда деревья были большими“ досталась Юрию Никулину».