В 1908 году Алексей Васильевич создал в Пензе показательный художественный хор. В 1914 году стал одним из организаторов Народной консерватории. Его учениками считали себя известные певцы А.А. Яхонтов, А.И. Мозжухин, В.И. Касторский, композитор Г.Г. Крейтнер, хормейстер Ф.П. Вазерский.
узыкальное образование получил в Петербургской консерватории по классу Н.А. Римского-Корсакова. С 1888 года жил в Пензе, преподавал в музыкальном училище и других учебных заведениях, вел большую концертную деятельность.
В 1908 году Алексей Васильевич создал в Пензе показательный художественный хор. В 1914 году стал одним из организаторов Народной консерватории. Его учениками считали себя известные певцы А.А. Яхонтов, А.И. Мозжухин, В.И. Касторский, композитор Г.Г. Крейтнер, хормейстер Ф.П. Вазерский.
В 1919 году А.В. Касторский выпустил в Пензе книги «Курс изучения музыкального счета», «Начальное пение», «Учебный сборник» и другие. Последние годы жизни провел в Москве.