Владимир Борисович Рушайло родился 28 июля 1953 года в городе Тамбов. В 1976 году окончил Омскую высшую школу милиции МВД СССР. В органах внутренних дел служил с 1972 года.
На оперативной работе - с 1976 года, работал в уголовном розыске ГУВД Москвы.
С 1986 года Рушайло работал в отделе МУРа, занимающегося организованной преступностью. Некоторое время контролировал деятельность московской системы валютных магазинов "Березка".С 1988 по 1993 гг. он возглавляет 6-й отдел МУРа (борьба с бандитизмом и организованной преступностью).
С 1992 года Рушайло назначен начальником только что созданного Регионального Управления по борьбе с организованной преступностью (РУБОП). Неоднократно лично участвовал в операциях по обезвреживанию преступников и освобождению заложников. В 1994 году Владимиру Рушайло было присвоено звание генерал-майора милиции.
В марте 1995 года, после убийства известного тележурналиста Владислава Листьева, по приказу Рушайло был проведен обыск в офисе руководителя АО "ЛогоВАЗ" Бориса Березовского.
В октябре 1996 года Рушайло был назначен первым заместителем начальника Главного управления по организованной преступности (ГУОП) МВД РФ.
В декабре 1996 года он был отстранен от должности и откомандирован в Совет Федерации РФ, оставаясь в штате МВД РФ.
С 1996 по 1998 гг. - советник Председателя Совета Федерации Федерального Собрания РФ Егора Строева по юридическим вопросам и безопасности.
В мае 1998 года Указом Президента РФ назначен заместителем министра внутренних дел РФ с присвоением звания генерал-лейтенанта. Курировал деятельность ГУОП МВД. Член совета попечителей Английского клуба.
31 мая 1999 года Указом Президента РФ назначен на пост Министра внутренних дел РФ в правительстве Сергея Степашина. Присвоено звание генерал-полковника.
18 августа 1999 года Указом Президента РФ назначен на пост Министра внутренних дел РФ в правительстве Владимира Путина.
18 мая 2000 года Указом Президента РФ назначен на пост Министра внутренних дел в правительстве Михаила Касьянова.
28 марта 2001 года освобожден от должности министра внутренних дел и назначен секретарем Совета безопасности РФ.
Женат. Имеет троих детей.
Награжден орденами "Мужество", "Орден Почета", "За личное мужество", а также знаком "Заслуженный работник МВД".