Der als Vater des Bluegrass bekannte Bill Monroe stellte Baker dem Publikum als "den größten Fiddler in Bluegrass Music" vor. Baker hat den Sound der Fiddle im Bluegrass verändert, war in den 70ern der dominierende Fiddler im Bluegrass Genre und hat ganze Generationen von Fiddle-Spielern beeinflusst.
Baker wurde in Jenkins, Kentucky, geboren und fing im Alter von 8 Jahren an, die Fiddle zu spielen, bevor er später zur Gitarre wechselte. Als Teenager arbeitete er für Bethlehem Steel in den Kohleminen von Kentucky. Im zweiten Weltkrieg trat er der US-Navy bei, wurde aber wegen seines Gitarrenspiels in die Unterhaltungsabteilung des Militärs versetzt. Während dieser Zeit begann er wieder Fiddle zu spielen.
1957 wurde er Mitglied der Blue Grass Boys und laut dem International Bluegrass Music Museum war kein anderer Musiker länger Mitglied in der Band als Baker.
Baker spielte eine maßgebliche Rolle für den Erfolg des Bill Monroe Albums "Uncle Pen" und war auch auf Tom T Halls "Magnificent Music Machine" und der "Bluegrass Collection" der Osborne Brothers zu hören. Des Weiteren hat Baker diverse Instrumental-Alben unter eigenem Namen veröffentlicht.
1984 verließ Baker die Blue Grass Boys und spielte erst zehn Jahre später, während des Monroes Bean Blossom Bluegrass Festival, wieder für den Vater des Bluegrass. In diesen zehn Jahren spielte Baker häufig gemeinsam mit dem Dobro-Spieler Josh Graves.
1993 wurde Kenny Baker mit dem National Heritage Fellowship der National Endowment for the Arts ausgezeichnet.