Родился 12 октября 1950 в Чите в семье военнослужащих, русский.
С 1952 года семья жила в Ленинграде.
Окончил физико-математическую школу №211 в Ленинграде. В одном классе с ним учились Николай Патрушев и Борис Грызлов ("Собеседник" 15.02.2005).
Окончил Ленинградский электротехнический институт связи (ЛЭИС) им. Бонч-Бруевича по специальности "радиотехника", учился на одном курсе с Б.Грызловым. В 1975 году окончил Высшие курсы КГБ СССР в Минске.
Работал в Центральном НИИ связи.
С 1974 года служит в органах государственной безопасности. С 1975 года - в Управлении КГБ по Ленинградской области, затем - в Управлении ФСБ России по Санкт-Петербургу и Ленинградской области (УФСБ).
С 1997 года служил в Кингисеппском отделе УФСБ.
Работал в Центральном аппарате ФСБ в Москве, был начальником управления собственной безопасности ФСБ России.
30 мая 2000 заявил в интервью ОРТ, что ФСБ располагает сведениями, что против сотрудников правоохранительных органов и спецслужб, проводивших обыски в помещениях холдинга «Медиа-Мост», готовятся провокации. В том же интервью подтвердил сообщения о существовании канала утечки секретной информации из ФСБ в структуры «Медиа-Моста».
С июля 2000 по январь 2001 года служил заместителем руководителя Федеральной службы охраны (ФСО; руководитель - Евгений Муров).
С 5 января 2001 - начальник УФСБ по Санкт-Петербургу и Ленинградской области (сменил Александра Григорьева).
С июня 2003 г. - первый заместитель директора ФСБ России (в питерском УФСБ его сменил Александр Бортников).
С июля 2004 года - член Комиссии при президенте РФ по предварительному рассмотрению кандидатур на должности судей федеральных судов.
С сентября 2004 года - член Комиссии по вопросам координации деятельности федеральных органов исполнительной власти в Южном федеральном округе, созданной по указу президента РФ.
11 июля 2004 Путин подписал указ о реформировании Федеральной службы безопасности России. В частности, было значительно сокращено количество заместителей директора ФСБ. Смирнов сохранил пост первого заместителя директора ФСБ.
Генерал армии.
Награжден орденом Почета, медалями.