Родился в 1864 г. в купеческой семье в Москве. Дойдя до 5-го класса, Гречанинов оставил гимназию и поступил в 1881 г. в московскую консерваторию.
По фортепиано занимался у Н.Д. Кашкина и окончил педагогические курсы по классу В.И. Сафонова (1890); по контрапункту учился недолго у Г.А. Лароша , затем у Н.А. Губерта . В 1890 г. Гречанинов перешел в петербургскую консерваторию, которую окончил по классу теории композиции Н.А. Римского-Корсакова , представив экзаменационную кантату "Самсон". Гречанинов занимался еще у С.И. Танеева в Москве. Гречанинов дебютировал (1894) тетрадкой из пяти романсов (изд. Беляева ), а его opus 2-ой, смычковый квартет (G-dur) был тогда же премирован на конкурсе петербургского общества камерной музыки. По окончании консерватории Гречанинов остался в Петербурге и занялся педагогической музыкальной деятельностью. Сочинения Гречанинова отличаются технической и художественной законченностью. В сочинениях раннего периода чувствуется влияние Чайковского . Большое влияние оказал на Гречанинова и Римский-Корсаков, в фактуре и многих приемах. То и другое влияние явственно выступает в опере-былине "Добрыня Никитич" (1895 - 1901). В начале 1900-х годов Гречанинов становится на более самостоятельный путь, но в конце этих годов выступает в его творчестве другое влияние - модернистов французов (Дебюсси и др.). Сказанными влияниями не заслоняется, однако, собственная индивидуальность Гречанинова. По своему характеру его сочинения находятся в тесной связи с русским народным песенным творчеством. Мысль его всегда определенна, ясна, изложение отличается простотой, отсутствием запутанности, вычурности, развитие логично, естественно, хотя особенной фантазии и изобретательности в развитии автор и не проявляет. Стиль его сочинений большей частью гомофонический. К контрапунктическим сложностям автор почти не прибегает. Наиболее ярко его талант проявился в вокальной музыке и в ней в области камерной миниатюры, в которой он достигает часто тонкой красоты грации и изящества. Особенно выделяются серии его "детских песен", близких к народным: "Ай дуду" (6 песен, 1903), "Петушок" (сборник русских народных песен, 20 N, 1906), "Снежинки" (10 песен, 1907). Новое слово сказал Гречанинов в области церковной музыки. Нередко он берет в песнопении прямо народные темы. Другой особенностью его песнопений является их изобразительность, программность в строгом соответствии с текстом. Некоторые его песнопения, как, например, "Волной морской" переложение (8-голосное) и оригинальное "Верую", где он применил древний прием исполнения символа веры в монастырях - речитативное чтение одного канонарха, которому вторит хор - получили широкую известность. Ему принадлежат: 2 полных (13 N) литургии св. I. Златоуста (1897, 1902), "Всенощное бдение" (10 N), "Страстная Седмица" (13 N) и отдельные песнопения. Свои взгляды на церковную музыку Гречанинова высказал в статье: "О духе церковных песнопений" ("Московские Ведомости"). Его обеим симфониям (N 1 - h-moll, 1894, и N 2 Pastorale-a-moll, 1902 - 09) недостает оригинальности, глубины идей, широты размаха, органичности формы интереса в развитии, что не исключает общей красоты музыки и интереса отдельных подробностей. Гречанинов написал 59 opus'ов, 8 сочинений без означения opus'ов и 6 сочинений неизданных. Среди этих сочинений находятся: "Элегия" (памяти Чайковского) для оркестра (рукопись, 1897), 2 смычковых квартета (N 1 - G-dur и N 2 - B-dur в рукописи), трио для фортепиано, скрипки и виолончели (C-moll, 1903), "Сестра Беатриса" опера-легенда по Метерлинку, музыка к трагедии Алексея Толстого "Царь Федор Иоаннович" (напечатана только "Песнь гусляра") и к его же трагедии "Смерть Иоанна Грозного", музыка к "Снегурочке" Островского , "Елочкин Сон" - рождественская пьеса для детей (1911), светские хоры, "Памяти павших за свободу", "Траурный гимн" для хора, "Матушка Русь" (Некрасов) для исполнения 19 февраля, кантата "Памяти 19 февраля 1861 г." для 4-х голосов, хора и оркестра на слова П. Зуева, вокальные квартеты-соло, вокальные пьесы с сопровождением оркестра, струнного квартета ("Мертвые Листья"), концерт для виолончели, пьесы для фортепиано, для скрипки и фортепиано.