Geboren wurde Jeff Carson unter dem Namen Jeffrey Lee Herndon in Tulsa, Oklahoma, am 16. Dezember 1963. Seine ersten musikalischen Schritten begannen bereits in früher Kindheit, als er in der örtlichen Kirche sang. Er gründete zunächst in Rogers, Arkansas, eine Band, zog dann jedoch nach Branson, Missouri, wo er Songs schrieb und einige lokale Auftritte hatte. Seine musikalische Karriere startete durch, als er nach Nashville zog und damit begann Demos aufzunehmen. Unteranderem versuchte er sich in dieser Zeit an "Walkin' to Jersualem" von Tracy Byrd, "I See it Now" von Tracy Lawrence oder "The Heart is a Lonely Hunter" von Reba McEntire. 1995 bekam Carson einen Plattenvertrag bei Curb Records und seine erste eigene Single "Yeah Buddy" sollte kurz darauf veröffentlicht werden.
Das dazugehörige Album aus dem Jahr 1995 unter dem Titel "Jeff Carson" stieg bis auf Platz 22 in den amerikanischen Country-Charts und sollte sein größter Erfolg bleiben. "Yeah Buddy" brachte ihn in den Charts auf Platz 69, während seine zweite Single im selben Jahr, "Not on Your Love", auf Platz 1 der Country-Charts landete. "The Car" und "Holdin' Onto Somethin'" brachte ihm in der Folge einen dritten und sechsten Chart-Platz ein. Außerdem gewann "The Car" einen Academy of Country Music Award in der Kategorie "Musikvideo des Jahres". 1997 folgte das zweite Studio-Album mit "Butterfly Kisses", dass auch Platz 39 der Country-Charts landete.
Jeff Carson - Not On Your Love (Official Music Video)
Die erfolgreichste Single-Auskopplung aus diesem Album ergab sich 1998 mit dem Titel "Cheatin' on Her Heart", der es auf Platz 52 der Charts schaffte. Sein letztes Studio-Album veröffentlichte Carson 2001 mit der Platte "Real Life", die ihn abermals auf einen 38. Platz in den Country-Charts brachten.
Insgesamt schaffte der Sänger es mit 14 Songs in die Billboard-Charts, wobei er zwischen 2009 und 2019 kaum Zeit mit der Musik verbrachte. Er wurde im Williamson County, Tennessee, Polizist und entschied sich erst nach 10 Jahren wieder für die Musik. Kürzlich arbeitete er mit der Encore Music Group und Buddy Hyatt an einem speziellen Album und wollte dieses noch in diesem Jahr veröffentlichten. Darauf sollten Duette mit Michal Ray, Darryl Worley, Mark Wills und Craig Morgan zu hören sein.