Родился в семье бедного еврея-часовщика в Таганроге. В 1881 году пел в синагогальном хоре Любецкого (Ростов-на-Дону). В 1888 году окончил Ростовское реальное училище, что считалось большой удачей. Но однажды бросил всё ради театра – причём, не драматического, а эстрадного и опереточного. Как и большинство эстрадных артистов его поколения, нигде театральному мастерству не учился, и очень быстро сделал себе серьёзную карьеру. В 1882-1888 гг. эпизодически танцевал на сцене Ростовского театра оперетты, с 1888 года работал артистом в эстрадных ансамблях. В 1890-1894 гг.(под псевдонимом Проценко) - в украинских труппах Г.И. Деркача и М.Л. Кропивницкого, который стал первым учителем Ростовцева по сценическрму мастерству, в дальнейшем гастролировал по России. В 1897-1900 и в 1908-1910 гг. – в московских, в 1900-1904 гг. - в петербургских антрепризах. В 1905-1908 гг. гастролировал на Дальнем Востоке. В 1907 году во Владивостоке дебютировал в оперетте под псевдонимом Ростовцев. В 1911-1918 гг. выступал в петербургских опереточных театрах: "Летний", "Буфф", Панаевский, "Палас". В 1918-1923 гг. – артист Театра комической оперы в Петрограде, с 1922 года – в Ленинградском малом оперном театре и в ГАТОБ.

И после революции Михаил Ростовцев оставался одним из самых популярных и уважаемых артистов Ленинграда. Он был неизменным украшением всевозможных юбилеев и творческих вечеров ленинградских деятелей искусства, где выступал с поздравительными шуточными стихами собственного сочинения. А 50-летие творческой деятельности самого Ростовцева в 1940 году праздновалось с необычайной пышностью. 1936 году он всё же был приглашён на главную роль в комедии Михаила Вернера "Девушка спешит на свидание". Фильм был немедленно объявлен эталоном пошлости и безвкусицы, возрождающим "безнравственные традиции" дореволюционных курортных комедий. Рецензии, все без исключения, были разгромные, но массовый успех фильма был настолько велик, что о снятии картины с экрана не могло быть и речи. Когда после XX-го съезда начали пересматривать историю кино, и многие фильмы были возвращены из забвения, об этом фильме писали всё так же пренебрежительно. А в кинотеатрах повторного фильма он продолжал идти с неизменным успехом. На съёмках "Девушки" Ростовцеву приходилось бегать, ездить на велосипеде, поднимать тяжести, подвергаться душу Шарко, а было ему в это время уже за шестьдесят. В результате он заработал инфаркт и в кино сниматься зарёкся. Появлялся отныне лишь в крохотных эпизодах – почти массовке. И всё же в 1947 году семидесятипятилетний актёр сыграл ещё одну - маленькую, но весьма заметную и до сих пор всем известную роль – "Доброго жука" в "Золушке" Надежды Кошеверовой и Михаила Шапиро. Здесь тоже нужно было бегать и танцевать, и по окончании съёмок Ростовцев слёг со вторым инфарктом. Через год, 19 апреля 1948 года, он умер.