Учился в Ростоке и других университетах Германии. В июне 1609 стал членом государственного совета Швеции. Благодаря деловым качествам и сильному характеру Оксеншерна занял лидирующее положение в совете.
В 1612 Густав II Адольф назначил его на пост канцлера. Оксеншерна провел реформу административной системы, по его инициативе прошла реорганизация местных и центральных органов управления. Оксеншерна играл ключевую роль в заключении соглашений с иностранными державами, от подписания Кнередского мира с Данией (1613) до Альтмаркского перемирия с Польшей (1629). С 1626 по 1631 был генерал-губернатором оккупированной Пруссии. Организовал в прусских портах сбор пошлин, что дало Швеции необходимые для ведения войн средства в 1627–1635. В 1631 присоединился к королю в Германии и успешно командовал шведскими армиями.
Созданная Оксеншерной Хейлбронская лига (1633) явилась реализацией идеи Густава о Corpus evangelicorum (Протестантском союзе), и Оксеншерна был первым и единственным ее руководителем. Раскол среди германских протестантских государств привел к распаду Лиги. Начиная с 1635 Оксеншерна был наиболее могущественным сторонником продолжения войны. Именно его решимости Швеция обязана выгодными условиями Вестфальского мира 1648.
Будучи канцлером, Оксеншерна являлся одним из пяти регентов Швеции на время несовершеннолетия Кристины. Вероятно, составил «Форму правления» – закон, принятый парламентом риксродом в 1634. После возвращения в Швецию в 1636 в течение восьми лет оставался фактическим правителем страны. По его приказу в 1643 было совершено нападение на Данию, под его диктовку был составлен выгодный для Швеции Брёмсебруский мир (1645).