Сниматься начал ещё в немом кино — Колька в фильме "СЭП №1" (1929). В 1929 году окончил кинокурсы имени Б.В. Чайковского. В 1929-1932 годах — актёр киностудии «Межрабпомфильм».

8 апреля 1932 года Романов был арестован, осужден на 5 лет и выслан в лагерь на Беломорканале. В июне 1935 года Николай Яковлевич был досрочно освобождён. Не имея прав на возвращение в Москву, Романов поступил актёром в Куйбышевский драмтеатр. В этом же году он женился на актрисе этого театра Петровой Ольге Дмитриевне. В 1939 году в семье Романовых родился сын. В 1935-1937 годах — актёр Куйбышевского драматического театра, в 1937-1938 годах — актёр Тульского ТЮЗа, в 1938 году — актёр Острогожеского драмтеатра, в 1938-1939 годах — актёр Петропавловского русского драматического театра, в 1939-1940 годах — актёр Марийского театра, в 1940-1941 годах — актёр Куйбышевского ТЮЗа, в 1941 году — актёр драмтеатра города Барыш, в 1942 году — актёр Сызранского городского театра, в 1942-1943 годах — актёр Сталинградского областного драматического театра, в 1943-1945 годах — актёр Камышинского драмтеатра, в 1945-1947 годах — актёр Бобруйского областного драматического театра, в 1947-1949 годах — актёр Гродненского областного драматического театра, в 1949-1950 годах — актёр Архангельского большого драматического театра, в 1950-1957 годах — актёр драмтеатра города Кимры. С 1958 года в Москве. В 1961 году Николай Яковлевич был реабилитирован и зачислен актёром в штат Киностудии имени Горького. Режиссёры стали приглашать Романова на небольшие и эпизодические роли. В 1961-1972 годах — актёр Киностудии имени Горького.