Советский государственный и партийный деятель, один из активных организаторов сталинских репрессий, позднее сам ставший их жертвой.
Образование получил на историко-филологическом факультете Санкт-Петербургскго Императорского университета.
Сын революционера, ссыльного. Образование получил на историко-филологическом факультете Санкт-Петербургскго Императорского университета (1909), юридическом факультете Харьковского Императорского университета (1914). Член партии большевиков с 1904 г. Партийная кличка — «Абрам». Участник революции 1905—1907 гг. Неоднократно арестовывался, но наказание ограничивалось высылкой в Польшу и на Украину. С 1906 — нелегал. В июле 1914 эмигрировал в Австрию, откуда в Швейцарию. По возвращении в Москву в ноябре 1915 вновь арестован. Освобожден после Февральской революции. Вел большевистскую агитацию в войсках Юго-Западного фронта. Арестован в июле 1917, освобожден в сентябре.
8 ноября 1917 Крыленко вошел в первый состав Совнаркома в качестве члена Комитета по делам военным и морским (вместе с В. А. Антоновым-Овсеенко и П. Е. Дыбенко). 12 ноября 1917 Крыленко назначается верховным главнокомандующим. Обычно Крыленко именуют прапорщиком, однако он никогда ни в какой армии не служил. Большевицкий Главковерх отдал приказ всем частям прекратить сопротивление и самостоятельно начать переговоры с немцами. Он сам на следующий день начинает такие переговоры, вскоре завершившиеся перемирием.
В марте 1918 Крыленко переводится в «органы юстиции» и организует революционные трибуналы.
С 1918 г. — председатель Верховного трибунала, прокурор РСФСР, с 1931 года — нарком юстиции РСФСР, с 1936 года — СССР. Был организатором процессов Промпартии, Шахтинского дела. Член ЦКК ВКП(б) в 1927—1934 г. Увлекался альпинизмом и шахматами, руководил соответствующими спортивными обществами. В 1938 г. на Пленуме ЦК ВКП(б) подвергся критике, формально — за то, что тратил слишком много времени на альпинизм, когда другие работают. Вскоре после этого арестован и расстрелян. В 1956 г. реабилитирован за отсутствием состава преступления (был осуждён за «шпионаж»), однако позднее, в 1980—1990 гг., был опубликован ряд архивных документов, раскрывавших роль Крыленко в организации репрессий.