Arthur Smith wurde am 1. April 1921 in Clinton, South Carolina, geboren. Er wuchs mit seinen Brüdern Ralph und Sonny in Kershaw auf und die drei spielten in der Schülerband The Crackerjacks.
Ende der 1930er Jahre zog Smith nach Charlotte, North Carolina, wo er regelmäßig im Radio auftrat. 1937 unterschrieb Smith seinen ersten Plattenvertrag bei RCA Victor, die aber keine Erfolge erzielen konnten. Als der Zweite Weltkrieg ausbrach, wurden die Brüder zur Armee eingezogen und die Gruppe brach auseinander. Nach seiner Entlassung kehrte Smith 1945 nach Hause zurück und gründete mit seinen Brüdern, seiner Frau Dorothy und dem Sänger Roy Lear die Gruppe Arthur Smith and his Cracker Jacks. Smith begann zusammen mit seiner Band, Platten einzuspielen. Ihre erste Single bei dem Label MGM Records war der "Guitar Boogie". Das Instrumental-Stück verkaufte sich über 3 Millionen Mal in den USA.
1955 schrieben Arthur Smith und Don Reno einen Song für Banjos. Smith nannte den Song "Feudin' Banjos". 1963 wurde der Song USA-weit bekannt als The Dillards, in der Rolle der Darlings, den Song gemeinsam mit Andy Griffith in "The Andy Griffith Show" spielten. Der eigentliche Erfolg stellte sich aber erst 1972 als er in dem Film "Beim Sterben ist jeder der Erste" gespielt wurde.Für den Film wurde der Song von Eric Weissberg und Steve Mandell neu arrangiert, aber erst 1973 unter dem Titel "Dueling Banjos" veröffentlicht. Die Aufnahme stieg bis auf Platz 1 der Billboard ACC Charts, Platz 2 in den Billboard Hot 100 (alle Genres) und erreichte Platz 5 in den Billboard Country Charts. Das produzierende Studio, Warner Bros. nannte Arthur Smith allerdings nicht als Songschreiber. Dieser zog daraufhin vor Gericht und gewann den Prozess. Warner Bros, musste den Nachspann ändern und ihm Gebühren für die Nutzung zahlte. Der Song wurde 1974 mit einem Grammy® ausgezeichnet.
Im Herbst 2006 setzte Arthur Smith sich zur Ruhe und wurde 2010 in die North Carolina Music Hall of Fame aufgenommen.
