Герберт Раппапорт родился 7 июля 1908 года в Вене, в еврейской семье, родители были выходцами из Львова. Его прадед Мориц Раппапорт был потомственным врачом и писателем, а отец, Мориц Раппапорт, — доктором философии, психоаналитиком, другом Отто Вейнингера. В 1927 году по настоянию родителей Герберт поступил на юридический факультет Венского университета, но появлялся там лишь во время экзаменов. Главным его увлечением был кинематограф. В конце концов Раппапорт оставил университет и в 1928 году переехал в Берлин. Там, на студии Неро-фильм, он познакомился с выдающимся немецким режиссёром (тоже австрийцем) Георгом Вильгельмом Пабстом и стал его ассистентом. Первой работой с Пабстом стал фильм «Ящик Пандоры». В дальнейшем Раппапорт работал над музыкальным оформлением, а также участвовал в создании сценариев.

После прихода нацистов к власти Пабст работал во Франции и США, вместе с ним — Герберт Раппапорт. В общей сложности он участвовал в создании десяти картин Пабста, снятых в Германии, Австрии, Франции и США.