Родился 23 июня 1901 года в деревне Сковорово Селижаровского района Тверской области.
На военной службе с 1919 года. Окончил Военную объединенную школу имени ВЦИК (1924), Военную академию имени М.В. Фрунзе (1931), Высшую военную академию (1953, Военная академия Генерального штаба).
Во время Гражданской войны рядовым воевал с белогвардейцами и поляками на Восточном и Западном фронтах. В 1924–1928годах – командир стрелкового взвода, роты, артиллерийской батареи, заместитель командира стрелкового батальона. С 1931 года – начальник части штаба стрелковой дивизии. В 1934–1937 годах – начальник сектора и начальник оперативного отдела штаба ОКДВА. С июня 1937 года – командир стрелкового полка. С января 1938 года преподавал на кафедре тактики Военной академии механизации и моторизации РККА. Во время советско-финляндской войны 1939–1940 годов командиром танкового батальона и начальником штаба танковой бригады участвовал в боях при прорыве «линии Маннергейма» и под Выборгом. С декабря 1940 года – заместитель командира танковой, дивизии, с мая 1941 года – начальник штаба механизированного корпуса.
В Великую Отечественную войну П.А. Ротмистров воевал на Западном, Северо-Западном, Калинининском, Сталинградском, Воронежском, Степном, Юго-Запдном, 2-м Украинском и 3-м Белорусском, фронтах. Участвовал в приграничных сражениях 1941 года. С сентября 1941 года – командир 8-й (с января 1942 года – 3-я гвардейская) танковой бригады, которая вела упорные бои в районе Старой Руссы, под Калинином (Тверь), сражалась за города Клин, Рогачёв, Дмитров, участвовала в контрнаступлении под Москвой. С апреля 1942 года командовал 7-м танковым корпусом (с декабря 1942 года – 3-й гвардейский танковый корпус), действовавшим в районе города Елец, затем под Сталинградом (Волгоград). В январе 1943 года корпус успешно участвовал совместно со 2-й гвардейской армией в разгроме группы войск генерал-фельдмаршала Э. Манштейна, пытавшейся деблокировать окружённую сталинградскую группировку противника, и освобождении города Ростов-на-Дону. С февраля 1943 года П.А.Ротмистров командовал 5-й гвардейской танковой армией, отличившейся в Курской битве.
Войска армии сыграли решающую роль в сражении под Прохоровкой. Армия под командованием П.А. Ротмистрова успешно участвовала в Белгородско-Харьковской и Уманско-Ботошанской наступательных операциях, разгроме крупных вражеских группировок в районе Кривого Рога, Кировограда, окружении и ликвидации корсунь-шевченковской группировки противника. Летом 1944 года П.А. Ротмистров со своей армией участвовал в Белорусской наступательной операции, освобождении городов Борисов, Минск, Вильнюс. С августа 1944 года назначен заместителем командующего бронетанковыми и механизированными войсками Советской Армии.
После войны в 1945–1947 годах П.А. Ротмистров – -командующий бронетанковыми и механизированными войсками Группы оккупационных советских войск в Германии, с 1947 года – Дальнего Востока. В 1948–1956 годах – начальник кафедры бронетанковых и механизированных войск, в 1956–1958 годах – заместитель начальника кафедры стратегии и оперативного искусства Высшей военной академии.
С 1958 года – начальник Военной академии бронетанковых войск. В целях совершенствования учебного процесса активно поддерживал связь с войсками, для улучшения военно-научной работы часто организовывал творческие конференции, участвовал в разработке трудов по использованию танковых войск в бою, операции и войне в целом, а также перспективам их развития. С 1964 года – помощник министра обороны СССР по высшим военно-учебным заведениям. С июня 1968 года – в Группе генеральной инспекции МО СССР.
Награждён шестью орденами Ленина, орденом Октябрьской Революции, четырьмя орденами Красного Знамени, орденами Суворова I и II степени, Кутузова I степени, Красной Звезды, «За службу Родине в ВС СССР» III степени, медалями, иностранными орденами.