Граф (27.10.1796), генерал от инфантерии (17.8.1817), генерал-адъютант (1814). Из древнего дворянского рода; владелец 3 богатейших майоратов (в т.ч. наследник громадного состояния графов Остерманов); сын генерал-поручика И.М. Толстого.
В 1774 унтер-офицером записан в лейб-гвардии Преображенский полк. Службу начал в 1788 прапорщиком. Участник русско-турецкой войны 1787—91. За штурм Измаила награжден орденом Св. Георгия 4-й степени. В янв. 1793 переведен подполковником во 2-й батальон Бугского егерского корпуса. 27.10.1796 О. разрешено принять графский титул и фамилию своих бездетных двоюродных дедов Ф.А. и И.А. Остерманов. В 1797 переведен в Ряжский мушкетерский полк. 1.2.1798 произведен в генерал-майоры и назначен шефом Шлиссельбургского мушкетерского полка. 18.4.1798 переведен на гражданскую службу и переименован в действительные статские советники. В 1799 женился на одной из богатейших невест России княжне Елизавете Алексеевне Голицыной. После вступления на престол Александра I 27.3.1801 вновь возвращен в армию генерал-майором и назначен командиром 2-й пехотной дивизии. В 1805 командовал отрядом в составе корпуса графа П.А. Толстого в Померании. В 1806 во главе авангарда отличился в бою при Чарнове и заслужил орден Св. Георгия 3-й степени. Во время сражения при Прейсиш-Эйлау командовал левым флангом русской армии. Отличился в сражениях при Пултуске и Гуттштадте, где был тяжело ранен. За отличия в войне произведен в генерал-лейтенанты. После выздоровления назначен командиром лейб-гвардии Преображенского полка и начальником 1-й гвардейской пехотной дивизии. Крайне отрицательно отнесся к заключению мира с Францией в Тильзите и возглавил «военную оппозицию». Был великим мастером масонской ложи «Соединенных друзей». Однажды сказал ген. Ф.О. Паулуччи: «Для вас Россия — мундир, вы его надели и снимете, когда хотите, а для меня Россия — кожа». 23.10.1810 вышел по болезни в отставку. С началом Отечественной войны 1812 вернулся на службу волонтером при 1-м пехотном корпусе, участвовал в бою у Вилькомира. 1.7.1812 назначен командиром 4-го пехотного корпуса 1-й Западной армии. 13(25) июля атакован при Островно (где прикрывал отход 1-й армии) кавалерией ген. Э. Нансути и И. Мюрата. Неся огромные потери, отдал приказ: «Ничего не делать, стоять и умирать». 14(26) июня к нему подошла дивизия ген. П.П. Коновни-цына. У Царева-Займища его корпус вместе с корпусом ген. Ф.Ф. Багговута объединен в отряд ген. М.А. Мило-радовича. В Бородинском сражении войска О. заменили на позициях обескровленный корпус ген. Н.Н. Раевского. Лично водил свои части в атаку и был тяжело контужен. На военном совете в Филях 1(13) сент. высказался за оставление Москвы без боя, заявив, «Москва не составляет России». Прикрывал в Немчине отступление армии к р. Нара. Участник сражений при Тарутине и Красном, преследовал франц. армию до Вильны. В дек. 1812 по болезни оставил армию. В 1813 вновь вернулся в строй, был тяжело ранен в сражении при Бауцене. С 14.8.1813 командир гвардейского корпуса. Прославился в сражении при Кульме и был 19.8.1813 награжден орденом Св. Георгия 2-й степени. Получив в Кульмском сражении тяжелое ранение (ему ядром оторвало левую руку), О. был вынужден оставить армию. 17.12.1815 назначен шефом Павловского гренадерского полка. С 16.4.1816 командир гренадерского корпуса. 19.1.1826 вышел в отставку. В 1831 во время военных действий в Египте состоял при Ибрагиме-паше. Вступил в конфликт с императором Николаем I и в 1834 покинул Россию.