Родился 31 января 1953 года в городе Ленинграде.Окончил переводческое отделение филологического факультета Ленинградского государственного университета, затем высшие курсы КГБ СССР в городе Минске, 101-ю школу Первого Главного управления КГБ (ныне Академия Службы внешней разведки Российской Федерации).
С 1981 по 1998 год прошел путь от оперуполномоченного Первого Главного управления КГБ СССР до первого заместителя начальника одного из управлений Службы внешней разведки Российской Федерации.
Был в трех длительных зарубежных командировках в скандинавских странах и Африке. После реорганизации КГБ продолжил работу в Службе внешней разведки Российской Федерации, а затем в Федеральной службе безопасности Российской Федерации.
С августа 1998 года - заместитель директора ФСБ - начальник Департамента анализа, прогноза и стратегического планирования ФСБ.
С 15 ноября 1999 года - секретарь Совета Безопасности Российской Федерации. Генерал-полковник запаса. С 28 марта 2001 года - Министр обороны Российской Федерации.
С 14 ноября 2005 года - заместитель Председателя Правительства Российской Федерации - Министр обороны Российской Федерации.
Указом Президента РФ от 16 февраля 2007 года назначен Первым заместителем Председателя Правительства Российской Федерации.
С 12 мая 2008 года назначен Заместителем Председателя Правительства Российской Федерации.
С 22 декабря 2011 по 12 августа 2016 года - руководитель Администрации Президента Российской Федерации.
С 12 августа 2016 года - Специальный представитель Президента Российской Федерации по вопросам природоохранной деятельности, экологии и транспорта.
14 мая 2024 года - переназначен на эту должность.
Член Совета Безопасности Российской Федерации.
Председатель наблюдательного совета Российского фонда прямых инвестиций, совета директоров телекоммуникационной компании «Ростелеком», попечительского совета Российского военно-исторического общества.
Член наблюдательного совета государственной корпорации по содействию разработке, производству и экспорту высокотехнологичной промышленной продукции «Ростех».
Женат, имеет двоих детей
 Иванов Альберт Николаевич
Иванов Альберт Николаевич
        
         Иванов Валентин Николаевич
Иванов Валентин Николаевич
        
         Иванов Виктор Васильевич
Иванов Виктор Васильевич
        
         Иванов Денис Олегович
Иванов Денис Олегович 
        
         Иванов Игорь Евгеньевич
Иванов Игорь Евгеньевич
        
         Иванов Игорь Олегович
Иванов Игорь Олегович
        
         Иванов Михаил Александрович
Иванов Михаил Александрович
        
         Иванов Михаил Петрович
Иванов Михаил Петрович
        
         Иванов Сергей Борисович
Иванов Сергей Борисович
        
         Иванова Евгения Викторовна
Иванова Евгения Викторовна
        
         Иванова Зинаида Николаевна
Иванова Зинаида Николаевна
        
         Иванова Татьяна Леонидовна
Иванова Татьяна Леонидовна
        
         Иващенко Виктор Владимирович
Иващенко Виктор Владимирович
        
         Игнатенкова Татьяна Петровна
Игнатенкова Татьяна Петровна
        
         Ильин Юрий Артамонович
Ильин Юрий Артамонович
        
         Инстранкин Юрий Николаевич
Инстранкин Юрий Николаевич
        
         Исекеева Светлана Петровна
Исекеева Светлана Петровна