Родился 7 июня 1896 в Капошваре в крестьянской семье. В годы Первой мировой войны служил в австро-венгерской армии, попал в русский плен. Принимал участие в большевистской революции и Гражданской войне.
После войны вернулся в Венгрию, но в 1928 был вынужден бежать в СССР, где оставался до 1944. Наступление Красной армии позволило ему вернуться в Венгрию. В 1944-1945 Надь - министр земледелия временного правительства, в 1947 - член политбюро компартии, в последующие годы - министр заготовок. Выступал против принудительной коллективизации, в 1949-1951 был выведен из состава политбюро, однако восстановлен в правительстве после публичного покаяния. В 1953 Надь стал премьер-министром и приступил к осуществлению программы реформ, однако в 1955 был отстранен от власти.
В октябре 1956 Надь стал премьер-министром коалиционного правительства, программа которого предусматривала свободу хозяйствования для крестьян и мелких собственников при сохранении социалистического государства всеобщего благосостояния, легализацию рабочих советов и некоммунистических партий, проведение свободных выборов, вывод советских войск из Венгрии, нейтралитет Венгрии. 4 ноября 1956 СССР, нарушив ранее взятые на себя обязательства, предпринял широкое вторжение в страну. Было образовано новое правительство во главе с Я.Кадаром. Надь и его ближайшие соратники нашли убежище в посольстве Югославии, однако вскоре были обманом высланы в Румынию. После принудительного возвращения в Венгрию Надь был заключен в тюрьму, а 16 июня 1958 тайно казнен в Будапеште.