Пётр Петрович Глебов родился 14 апреля 1915 года в Москве. Происходит из старинного дворянского рода Глебовых.

В 1931 году окончил Школу-коммуну № 32 им. П. Н. Лепешинского в Москве, в 1935 — Брасовский мелиоративно-дорожный техникум. В 1935—1936 годах работал гидротехником Богучарского районного земельного управления.

В 1937—1940 годах учился в Оперно-драматической студии К. С. Станиславского в Москве, где занимался у М. Н. Кедрова.

Старший брат Петра Глебова, Григорий, к этому времени оставил профессию инженера и стал трудиться вместе с К. С. Станиславским, помогая ему в работе созданной в 1935 году Оперно-драматической студии. Григорий, зная мечту своего брата об актёрской профессии, настоятельно рекомендовал Петру приехать в Москву в июне, чтобы сдать приёмные экзамены в Студию. Пётр Глебов так и сделал. Однако, перед подачей документов в Студию возникла проблема: нужно было заполнить анкету и ответить на вопрос о социальном происхождении. Григорий Глебов настаивал на том, чтобы указать в анкете — из крестьян. Но Мария Александровна, мать братьев Глебовых, резко запротестовала:

— Петя, пиши из дворян! Во-первых, это правда, во-вторых, меня лишали права голоса и прочего всего. И это прошло. Но главное, сын мой, ты — дворянин!

С анкетой проблем не возникло, и Пётр Глебов сдал экзамены. К слову, в составе приёмной комиссии были и Константин Сергеевич Станиславский, и его жена — Мария Петровна Лилина.

Пётр Глебов: Так решилась моя судьба. Я с удовольствием стал учиться актёрскому мастерству комического амплуа в Оперно-драматической студии К. С. Станиславского. Нам преподавали замечательные «старики» — Леонидов, Орлов, Лилина, Андровская, Кедров и, конечно же, сам Станиславский. Его ежедневные уроки — самое главное, что я получил в Студии. Он привил мне веру в свой метод, в свою систему. И если я чего-то добился в своей артистической жизни, то благодаря тому, что всегда помнил заветы моего любимого учителя, реформатора сцены[2].

С 1941 года — актёр Оперно-драматической студии К. С. Станиславского (с 1948 — Московский драматический театр им. К. С. Станиславского).

С началом войны добровольцем ушёл на фронт. Служил в зенитно-артиллерийском полку, который охранял от вражеских самолётов западный сектор Подмосковья: Очаково, Переделкино, аэропорт Внуково. Во время службы, благодаря близости Москвы, по разрешению командования вместе с другими актёрами-бойцами играл в театре[2].

После войны вновь вернулся в театр, где играл до 1969 года. Участвовал в спектаклях «Три сестры» А. П. Чехова, «Дни Турбиных» М. А. Булгакова, «Салемские ведьмы» А. Миллера и других.

В трудовой книжке актёра, заполненной зав. отделом кадров есть запись: «Общий стаж работы по найму до поступления в Театр имени К. С. Станиславского 2 года. Подтверждёно документами. Гос. Оперно-Драматический Театр им. Кс. Станиславского. 1937.IX.1. Зачислен на должность артиста драмы. Пр. 99 от 01.IX.1937 г.»

С 1940 года снимается в кино. Первую роль, выходящую за рамки эпизода, сыграл в небольшом антиалкогольном фильме-плакате «Я ничего не помню» (1954).

Лучшей работой актёра в кино стала роль Григория Мелехова в экранизации романа М. Шолохова «Тихий Дон», созданной режиссёром С. Герасимовым в 1957—1958 годах.

С 1969 года — в труппе Театра-студии киноактёра.

Умер 17 апреля 2000 года в Москве. Похоронен на Ваганьковском кладбище.