Geboren wurde Chip Young als Jerry Marvin Stembridge am 19. Mai 1938 in Atlanta, im US-Bundesstaat Georgia. Seine musikalische Karriere begann 1950, als er zusammen mit Jerry Reed und Joe South spielte. In den 60ern und 70ern hatte es seinen Durchbruch und war zum Beispiel auf Dolly Partons "Jolene", Elvis Presleys "Guitar Man" und Charley Prides "Kiss an Angel Good Morning" zu hören. Von 1965 bis zum Tode des King of Rock 'n' Roll (1977) war Chip Young in Elvis Presleys Studio-Band.
Außerdem spielte Young mit seiner Gitarre Studio-Aufnahmen von George Jones, Waylon Jennings, Willie Nelson, Eddy Arnold, Carl Perkins, den Oak Ridge Boys, Skeeter Davis, Ann-Margret, My Morning Jacket, Todd Snider und Candi Staton ein.
Ende der 1960er richtete er sein eigenes Tonstudio, Young 'Un Sound, ein und produzierte unter anderem für Jerry Reed, Jimmy Buffett, Johnny Mathis, Gary Stewart, Billy Swan sowie Delbert McClinton.
Im Jahr 2000 veröffentlichte er ein Album mit dem Titel "Having Thumb Fun With My Friends" auf dem er zusammen mit Jerry Reed, Chet Atkins, Jimmy Capps, Jerry Kennedy, Grady Martin, Scotty Moore, Leon Rhodes, Pete Wade, Wayne Moss und Reggie Young musizierte.
2009 wurde er in die National Thumbpickers Hall of Fame aufgenommen und 2010 war er Teil der Ausstellung "Nashville Cats: A Celebration of Music City Musicians" im Country Music Hall of Fame & Museum.
Chip Young lässt seine Frau Diane Parker-Stembridge und seine Tochter Megan Lee Bare zurück.