Arnold, der als The Tennessee Plowboy bekannt war, wurde am 15. Mai 1918 als Sohn einer Farmer-Familie geboren. Schon früh bekann er sich für Musik zu interessieren, so dass ihm sein Cousin die Sears Roebuck Silvertone Gitarre leihen musste. Als Arnold aufwuchs hörte er die Songs von Gene Autry, Bing Crosby und Jimmy Rodgers.
Als Arnold 11 Jahre alt wurde verstarb sein Vater und die Farm musste versteigert werden. Während der Depression sang er auf kleinen Veranstaltungen, um sich ein wenig Taschengeld hinzu zu verdienen. Im Alter von 17 Jahren arbeitete er im Radio, in einer Bar und war Fahrer eines Leichenwagens. Auch bei seinen Umzügen nach Memphis und St. Louis blieb er dem Radio treu.
1950 war er Mitglied der Pee Wee King's Golden West Cowboys und spielte in der Grand Ole Opry.
1943 trennten sich die Wege von King und Arnold, da Arnold seine Solo-Karriere starten wollte. 1944 bekam er einen Plattenvertrag bei RCA Victor.
Zu Arnolds Hits gehörten "Each Minute Seems a Million Years", "What is Life Without Love", "I'll Hold You in My Heart (Till I Can Hold You in My Arms)", "What's He Doing in My World", "Make the World Go Away" und "Let Get It While the Getting's Good".
Lange war er bei RCA Victor unter Vertrag. Nach einer kurzen gastspiel bei MGM und Curb kehrte er zu RCA Nashville zurück. Seine letzte CD, "After All This Time", erschien 2005 bei RCA Nashville.