Владимир Рушайло родился 28 июля 1953 года в городе Тамбов.
В 1976 году окончил Омскую высшую школу милиции МВД СССР. В органах внутренних дел с 1972 года. На оперативной работе с 1976 года, работал в уголовном розыске ГУВД Москвы. С 1986 года – в отделе МУРа, занимающегося организованной преступностью. Некоторое время контролировал деятельность московской системы валютных магазинов "Березка". С 1988 по 1993 г.г. возглавлял 6-й отдел МУРа (борьба с бандитизмом и организованной преступностью).
С 1992 года начальник только что созданного Регионального Управления по борьбе с организованной преступностью (РУБОП). Неоднократно лично участвовал в операциях по обезвреживанию преступников и освобождению заложников. В 1994 году Владимиру Рушайло было присвоено звание генерал-майора милиции. В марте 1995 года, после убийства известного тележурналиста Владислава Листьева, по приказу Рушайло был проведен обыск в офисе руководителя АО "ЛогоВАЗ" Бориса Березовского. В октябре 1996 года Рушайло был назначен первым заместителем начальника Главного управления по организованной преступности (ГУОП) МВД РФ. В декабре 1996 года отстранен от должности и откомандирован в Совет Федерации РФ, оставаясь в штате МВД РФ. С 1996 по 1998 г.г. - советник Председателя Совета Федерации Федерального Собрания РФ Егора Строева по юридическим вопросам и безопасности. В мае 1998 года Указом Президента РФ назначен заместителем министра внутренних дел РФ с присвоением звания генерал-лейтенанта. Курировал деятельность ГУОП МВД. Член совета попечителей Английского клуба. 31 мая 1999 года Указом Президента РФ назначен на пост Министра внутренних дел РФ в правительстве Сергея Степашина. Присвоено звание генерал-полковника. 18 августа 1999 г. Указом Президента РФ назначен на пост Министра внутренних дел РФ в правительстве Владимира Путина. 18 мая 2000 года Указом Президента РФ назначен на пост Министра внутренних дел в правительстве Михаила Касьянова. 28 марта 2001 года освобожден от должности министра внутренних дел и назначен секретарем Совета Безопасности РФ. 9 марта 2004 года указом Президента РФ освобожден от должности Секретаря Совета Безопасности РФ.
Женат. Имеет троих детей.
Награжден орденами "Мужество", "Орден Почета", "За личное мужество", а также знаком "Заслуженный работник МВД".