Родился 12 июля 1937 г. в г. Ишимбай (Башкирия). После смерти матери в 1947 г. переехал к бабушке в Ульяновскую область, где окончил школу, в ней же работал лаборантом.
В 1954 г. уехал в Салават, где работал слесарем-монтажником. С детства проявил актёрские способности, участвовал в самодеятельности, занимался во дворце культуры в танцевальном, вокальном и драматическом кружках. В 1955 г. поступил в ГИТИС (мастерская И.М.Раевского). А.А.Гончаров пригласил его, ещё студента 4 курса, в Московский драматический театр (на Спартаковской площади).
В 1962 г. театр переехал на Малую Бронную, здесь Грачёв проработал до 1993 г. Начинал с участия в массовках, играл в эпизодах. Первой значительной ролью был Савва Лычанов в спектакле "Комедия о Фроле Скобееве" Д.В.Аверкиева в постановке М.М.Буткевича. В спектакле "Девятый вал" по пьесе Ю.Ф.Эдлиса, поставленном Гончаровым, сыграл главную роль. Важной в актёрской биографии стала работа в спектакле Гончарова "Жив человек" по повести В.Е.Максимова (1964), где Грачёв также сыграл главную роль. Инсценировка, сделанная самим Максимовым, строилась на воспоминаниях героя. Полная драматизма роль была технически сложной, требовала мгновенных переключений из одного возраста в другой, перемены эмоциональных состояний. Работа актера была замечена, хотя спектакль в 1968 г. был снят с репертуара. Играл в других спектаклях Гончарова ("Мятеж неизвестных" Г.А.Боровика, "Вид с моста" А.Миллера), в спектаклях "Как вам это понравится" У.Шекспира и "Один год" по Ю.П.Герману, поставленных П.Н.Фоменко, который один сезон проработал в Театре на Малой Бронной, а также с режиссёрами С.А.Барканом, И.Судаковой, В.Крамовым, О.Я.Ремезом, работавшими в период руководства Гончарова. Анатолий Грачёв в фильме "Волчья стая"
В 1967 г. в театр пришёл А.В.Эфрос. С этим режиссёром связаны лучшие работы Грачёва. "Эфрос был и остался
для меня самым главным ориентиром в искусстве", – признавался артист. Был занят почти во всех спектаклях Эфроса. Настоящим открытием артиста стала роль Ромео ("Ромео и Джульетта" У.Шекспира, 1970). В этой работе проявилась его "способность играть высокую драму, подлинную трагедию, при этом оставаясь живым, естественным...". Неожиданной была работа Грачёва в роли Чешкова в спектакле "Человек со стороны" И.М.Дворецкого (1971): известный своей мягкой манерой исполнения, лиризмом, в этой "производственной пьесе" Грачёв играл жесткого, отталкивающего своим максимализмом руководителя нового типа. В 1972 г. сыграл Алёшу Карамазова в "Брате Алёше" В.С.Розова по Ф.М.Достоевскому, продолжая "тему чистых душ, входящих в жизнь". Основой роли стала духовная утончённость, свойственная его актёрской природе. С Эфросом актёр сыграл Кузьму ("Сказки Старого Арбата" А.Н.Арбузова, 1975), Дон Карлоса ("Дон Жуан" Мольера, 1973), Беляева ("Месяц в деревне" И.С.Тургенева, 1977), Селифана и Ноздрёва ("Дорога" В.Балясного по "Мёртвым душам" и письмам Н.В.Гоголя,1980), Окунева ("Директор театра" Дворецкого, 1984). Работал с режиссёром А.Л.Дунаевым, сыграл в его спектаклях "Варвары" и "Враги" М.Горького.
После открытия в 1993 г. театра "Et cetera" под руководством А.А.Калягина был приглашён на роль Серебрякова в "Дяде Ване" А.П.Чехова в постановке А.Сабинина и остался работать в этом театре. Сыграл Стычкина в "Руководстве для желающих жениться" по Чехову, Джеймса Мейо в "За горизонтом" Ю.О'Нила, Жеронта в "Лекаре поневоле" Мольера, Роберта в "Измене" Х.Пинтера, Карнаухова в "Конкурсе" А.М.Галина. Играл в спектаклях в антрепризе М.М.Козакова.
С 1957 г. снимался в кино (более 40 фильмов, среди
которых: "Весна на Одере" (режиссёр Леон Сааков, 1968), "Следствие ведут знатоки" ("Повинную голову… Дело N4", 1971; "Шантаж. Дело N6", 1972; режиссёр Вячеслав Бровкин), "Слово для защиты" (режиссёр Вадим Абдрашитов, 1976), "…И другие официальные лица" (режиссёр Семен Аранович, 1976), "Репортаж с линии огня", (режиссёр Леон Сааков, 1984), "Ради нескольких строчек" (режиссёр Александр Рогожкин, 1985) и др.), сыграл Самозванца в "Борисе Годунове" А.С.Пушкина, поставленном Анатолием Эфросом на телевидении.
Умер 20 мая 2005 г. в Москве.
1. Алёнка - 1961
2. Нет и да - 1966
3. Весна на Одере - 1967
4. Жажда над ручьём - 1968
5. Варькина земля - 1969
6. Борис Годунов. Сцены из трагедии - 1970
7. Море в огне - 1970
8. Следствие ведут знатоки. Дело N4. Повинную голову - 1971
9. Следствие ведут знатоки. Дело N6. Шантаж - 1972
10. Мальчишку звали капитаном - 1973
11. Волчья стая - 1975
12. ...И другие официальные лица - 1976
13. Моё дело - 1976
14. Слово для защиты - 1976
15. Судьба барабанщика - 1976
16. Последняя двойка - 1977
17. Мужские игры на свежем воздухе - 1978
18. Алые погоны - 1979
19. Крутое поле - 1979
20. Мелочи жизни - 1980
21. Тайна Эдвина Друда - 1980
22. Остаюсь с вами - 1981
23. Детский мир - 1982
24. Признать виновным - 1983
25. Два гусара - 1984
26. Репортаж с линии огня - 1984
27. Внимание! Всем постам... - 1985
28. Ради нескольких строчек - 1985
29. Где ваш сын? - 1986
30. Равняется четырём Франциям - 1986
31. Мужские портреты - 1987
32. Автопортрет неизвестного - 1988
33. Шут - 1988
34. Зелёный огонь козы - 1989
35. Свой крест - 1989
36. Враг народа Бухарин - 1990
37. Ужин в четыре руки - 1999