Приходился мужем Джун Картер (June Carter) и Голди Хилл (Goldie Hill) и отцом Карлин Картер (Carlene Carter); был регулярным собутыльником Джонни Кэша (Johnny Cash). В 50-х был одним из самых успешных певцов-кантри; 30 его композиций удостаивались места в 'десятке лучших песен' по версии 'Billboard' – и 21 раз это происходило подряд. Смит продолжал успешно выступать и в 70-х – лишь один год обошелся без его сингла в хит-парадах. Карл состоит в Зале Славы Музыки Кантри (Country Music Hall of Fame).
Родился Смит в Мэйнардвилле, Теннесси (Maynardville, Tennessee); на карьеру в мире кантри его вдохновила радиотрансляция 'Grand Ole Opry'. Воплотить мечту в жизнь было нелегко, но Карл старался – так, уроки игры на гитаре он оплачивал, выкашивая соседские лужайки. В 15 лет Смит начал играть в группе 'Kitty Dibble and Her Dude Ranch Ranglers'; к 17-ти он уже успел поработать диджеем в Ноксвилле, Теннесси (Knoxville, Tennessee), на студии WROL-AM и научиться играть на контрабасе.
После школы Карл отправился на флот; провел он там три года, с 1944-го по 1947-й. Вернувшись после флота на WROL, он продолжил заниматься музыкой, аккомпанируя на контрабасе таким знаменитым исполнителям, как Молли О'Дэй (Molly O'Day) и Скитс Уильямсо
н (Skeets Williamson); тогда же Смит начал еще и петь. Его коллега по станции послал запись Смита на WMS-AM и 'Grand Ole Opry'; первые тут же заинтересовались талантливым парнем и предложили ему работу. В 1950-м у Смита уже был контракт с 'Columbia Records' и продюсером Доном Лоу (Don Law).
В 1952-м Смит женился на Джун Картер, будущей супруге Джонни Кэша; в 1955-м у них родилась дочь Ребекка – в будущем она сама станет известной певицей кантри и будет выступать под псевдонимом Карлин Картер.
В 1956-м Смит ушел из 'Grand Ole Opry' и перебрался в Калифорнию (California) – где, кстати, снялся в нескольких кинофильмах. В дальнейшем Карл присоединился к проекту 'Музыкальное кантри-шоу Филлипа Морриса' (The Phillip Morris Country
Music Show) и провел больше года, гастролируя по США.
В 1957-м Смит и Картер развелись; долго, впрочем, холостым Карл не пробыл – в том же году он женился на кантри-певице Голди Хилл (Goldie Hill). В дальнейшем Хилл музыку оставила; на спад пошла и карьера Смита – из первых 'десяток' хит-парадов он плавно переместился в первые 'двадцатки' – впрочем, он продолжал выпускать довольно-таки удачные мелодии, вроде 'Air Mail To Heaven' 1962-го и 'Take My Ring Off Your Finger' 1964-го. Увы, даже главный его хит 60-х – 'Deep Water' 1967-го – смог подняться лишь до 10-го места; к сожалению, в дальнейшем Карлу не удастся повторить даже этого результата.
В 60-х и 70-х – частично из-за снижения популярности своих композиций – Смит начал
добавлять в свои мелодии элементы западного свинга. С 'Columbia Records' он проработал в общей сложности порядка 25 лет, лишь в 1975-м уйдя в 'Hickory Records' – к тому времени в хит-парады он попадал уже с большим трудом. К счастью, приобретенная недвижимость и грамотные вложения в уже вышедшие песни гарантировали ему практически полное отсутствие проблем с финансами – и позволили спокойно уйти на пенсию в конце 70-х. В 1983-м певец, впрочем, на некоторое время вернулся – чтобы выпустить еще один альбом, под лейблом 'Gusto'.
В 2003-м Карл Смит был включен в Зал Славы Музыки Кантри.
В 2005-м скончалась его жена Голди. Карл скончался в январе 2010-го; умер он от естественных причин. У музыканта осталось два сына и две дочери