Второй министр финансов России с 1807 по 1810 год.
Начал службу в Сенате.
Благодаря родству с графом Васильевым Голубцов, при Павле, был назначен старшим членом в экспедицию государственных доходов.
С назначением в 1802 г. графа Васильева министром финансов, Голубцов занял место государственного казначея, а после смерти Васильева в 1807 г. министра финансов и в этой должности пробыл до 1810 г., когда был уволен, как говорили, по настоянию Сперанского.
Экономическое положение России во время его управления было расстроено, вследствие войн и господства континентальной системы; не в лучшем положении находились и наши финансы.
Единственным выходом был ежегодный выпуск бумажных денег (ассигнаций), количество которых поднялось к концу управления Голубцова до 577 миллионов руб., что повлекло за собой падение их покупательной силы и вексельных курсов.
Мер к улучшению экономического и финансового положения во время управления Голубцова министерством финансов принято не было.