Работал с целым рядом известнейших деятелей американского блюза и рок-н-ролла; за свою работу был удостоен целого ряда премий – в том числе 'Грэмми' и места в Зале Славы Блюза (Blues Hall of Fame).
Родился Джозеф в Белзони, штат Миссисипи (Belzoni, Mississippi). Какое-то время Перкинс играл на гитаре – но затем повредил себе сухожилия левой руки в драке с девушкой-хористкой в Арканзасе (Arkansas) и был вынужден пересесть за фортепиано. Сменил Джозеф и работу – с радио KFFA Роберта Найтхоука (Robert Nighthawk) он перебрался в проект Санни Боя Уильямсона (Sonny Boy Williamson) 'King Biscuit Time'. Окончательно с Найтхоуком, впрочем, Перкинс не расстался – в 1950-м они вместе работали над 'Jackson Town Gal'.
В 50-х Джозеф отправился путешествовать в компании с Эрлом Хукером (Earl Hooker); по дороге музыканты задержались в студии Сэма Филлипса (Sam Phillips), дабы записать написанную Пайнтопом Смитом (Pinetop Smith) композицию 'Pinetop's Boogie Woogie' – кстати, именно тогда Перкинс и получил свою кличку. Следует отметить, что песня была написана еще в 1928-м – Перкинсу тогда было всего 15 лет. Вскоре после окончания странствий Перкинс обосновался в Иллинойсе и на некоторое время забыл о музыке – лишь в 1968-м все тому же Хукеру удалось убедить его снова вернуться к активной деятельности. В 1969-м из группы 'Muddy Waters' ушел Отис Спэнн (Otis Spann); Перкинс пришел ему на замену. Задержался в группе Джозеф на десять с лишним лет; в дальнейшем вместе с рядом коллег он основал собственную группу, 'The Legendary Blues Band'. Новая команда с переменной активностью записывалась в конце 70-х, в 80-х и самом начале 90-х.
Перкинс нередко помогал другим коллективам и исполнителям записывать пластинки, однако выпустить целый диск собственных композиций не мог собраться долго; лишь в 1988-м вышел в свет записанный под логотипом 'Blind Pig Records' альбом 'After Hours'. В устроенном в поддержку альбома концертном туре принял участие целый ряд коллег Джозефа, вроде Джимми Роджерса (Jimmy Rogers) и Хьюберта Самлина (Hubert Sumlin). Впрочем, желающим послушать фортепианные композиции Перкинса настоятельно рекомендуется 'попробовать на зуб' еще и пластинку 1992-го 'On Top' – записать целый диск легкого, классического блюза Джозефу помог его старый друг, Джерри Портной (Jerry Portnoy). В 1998-м Перкинс выпустил еще один альбом, 'Legends' – на сей раз в паре с гитаристом Хьюбертом Самлином.
В 2004-м Джозеф попал в несколько необычную автокатастрофу – его автомобиль был сбит проходящим поездом; впрочем, 91-летний водитель практически не пострадал. До самой своей смерти Перкинс жил в Остине, штат Техас (Austin, Texas); пару раз в неделю он выступал в одном из местных клубов.
В 2005-м Перкинсу была вручена премия 'Grammy Lifetime Achievement Award'; три года спустя Джозеф получил еще одну 'Грэмми' – на сей раз, за 'Лучший альбом традиционного блюза', записанный вместе с Генри Джеймсом Таунсендом (Henry James Townsend), Робертом Локвудом-младшим (Robert Lockwood, Jr.) и Дэвидом Ханибоем Эдвардсом (David Honeyboy Edwards), 'Last of the Great Mississippi Delta Bluesmen: Live In Dallas'. Третью 'Грэмми' музыкант получил уже в 97 лет, вновь за 'Лучший альбом традиционного блюза'. Через месяц с небольшим, 21-го марта 2011-го Перкинс скончался в своем доме в Остине; как сообщил прессе его агент, у музыканта остановилось сердце.