Gordon Stoker wurde am 3. August 1924 in Gleason, Tennessee, in eine musikalische Familie hineingeboren. Im Alter von acht Jahre spielte er in der örtlichen Kirche bereits das Piano und trat live bei anderen Veranstaltungen auf. Nachdem er mit 15 Jahren die High-School abgeschlossen hatte, zog er nach Nashville, Tennessee, und trat dem Daniel Quartet bei, mit dem er seine ersten Auftritte beim Radiosender WSM hatte. Er unterbrach seine Karriere, um in der Air Force zu dienen und anschließend die Oklahoma Baptist University zu besuchen. Danach kehrte er zum Daniel Quartet zurück.
Als 1948 Bob Hubbard, Bass-Sänger Culley Holt und der Pianist Gordon Stoker den Foggy River Boys, die damals nur noch aus den Brüdern Bill Matthews und Monty Matthews bestanden, beitraten, nannten diese sich um in The Jordanaires. In dieser Besetzung stand die Gruppe bis 1952 auf der Bühne. Anschließend wurde Bob Hubbard durch Hoyt Hawkins ersetzt und die Brüder Monty und Bill Matthews verließen die Gruppe. Hoyt Hawkins übernahm den Baritonpart, Neal Matthews, Jr. wurde als Lead-Sänger engagiert und in der Folgezeit übernahm Pianist Stoker den Tenorpart. 1954 verließ Culley Holt die Gruppe und Hugh Jarrett übernahm bis 1958 die Bass-Stimme, später wurde er dann durch Ray Walker ersetzt.
1955 trafen The Jordanaires zum ersten Mal auf Elvis Presley. Während einer Fernsehshow suchte der King die Gruppe hinter der Bühne auf und sagte: "Wenn ich jemals einen Plattenvertrag bei einer großen Plattenfirma erhalte, möchte ich, dass ihr meine Backgroundsänger werdet." Als 1956 Presley dann seine ersten Aufnahmen für RCA Victor machte, bat er The Jordanaires mit ins Studio und in den nächsten 14 Jahren sangen sie bei fast jeder Studioaufnahme des Kings.
Aber nicht nur Elvis Presley erkannte das Talent der Gruppe - auch viele andere Künstler engagierten The Jordanaires und so sind sie unter anderem auf Jim Reeves' "Four Walls,," Patsy Clines "Crazy", George Jones' "He Stopped Loving Her Today", Don Gibsons "Oh Lonesome Me", Johnny Hortons "The Battle of New Orleans", Tammy Wynettes "Stand by Your Man", Conway Twittys "Hello Darlin'" und Kenny Rogers' "Lucille" zu hören. Auch für Red Foley, Dolly Parton, Johnny Cash, Bobby Bare, Ricky Nelson, Ringo Starr, Connie Francis und Julie Andrews sang die Gruppe.
2001 wurden The Jordanaires in die Country Music Hall of Fame aufgenommen. Die Gruppe war außerdem Mitglied in Gospel Music Hall of Fame.
2002 gewannen The Jordanaires, zusammen mit Larry Ford & the Light Crust Doughboys, für "We Called Him Mr. Gospel Music: The James Blackwood Tribute Album" einen Grammy in der Kategorie Best Southern, Country, or Bluegrass Album.