Seit den 1950er Jahren erzielte er Erfolge, zunächst mit "The Browns" zusammen mit seinen Schwestern Maxine und Bonnie, später auch als Solo-Künstler. "The Browns" hielten sich 1959 mit dem Hit "The Three Bells" 10 Wochen in den Billboard Country Charts.
Geboren wurde Jim Ed Brown am 1. April 1934 in Sparkman/Arkansas und wuchs auf einer Farm ohne Strom und fließendem Wasser auf. An den Samstag Abenden hörte die Familie auf einem batteriebetriebenem Radio die Übertragung der Grand Ole Opry. Bereits als Teenager begann er, es den Sängern dort gleich zu tun und 1952 meldete ihn Schwester Maxine bei einem Talentwettbewerb bei Radio KLRA in Little Rock an. Er gewann zwar nicht, wurde aber zu einer anderen lokalen Talentshow eingeladen, wo er mit Maxine auftrat und von Produzent Wayne Raney direkt die Einladung erhielt, eine Platte aufzunehmen. 1954 unterzeichneten sie bei Abbott Records und landeten ihren ersten Top 10-Hit "Looking Back To See". Später kam noch Bonnie hinzu, das Familien-Trio "The Browns" war geboren. Es folgten noch weitere Top Twenty Country Hits wie "Here Today and Gone Tomorrow", "I Take the Chance", "Just As Long As You Love Me", "Money", "I Heard the Bluebirds Sing", "Would You Care" und "Beyond the Shadow".
1959 beendeten zunächst die Armee-Zeit des Bruders und die familiären Prioritäten der Schwestern die musikalische Karriere des Trios. Ab 1965 jedoch ging Jim Ed Brown eigene musikalische Wege beim Platten-Label RCA mit Produzent Chet Atkins. Sein größter Erfolg wurde 1967 "Pop A Top", welches später Alan Jackson auf seinem Album "Under The Influence" coverte. Von 1967 bis 1974 platzierte er die weiteren Singles "Morning", "Southern Loving", "Sometime Sunshine" und "It's That Time of Night" in den Charts.
1976 begann seine Duett-Zeit mit Helen Cornelius, mit der er den No. 1-Hit "I Don't Want To Have To Marry You" hatte. Sie gewannen den Titel CMA Vocal Duo Of The Year und erzielten weitere Erfolge mit "Saying Hello, Saying I Love You, Saying Goodbye", "If The World Ran Out Of Love Tonight", "Lying In Love With You,", "Fools" sowie "Morning Comes Too Early".
Im September 2014 wurde bei Jim Ed Brown Lungen-Krebs diagnostiziert. Im März 2015 wurde er als Solo-Künstler und ebenso als Teil von "The Browns" noch als neuestes Mitglied in die Country Music Hall Of Fame aufgenommen. Jim Ed Browns Lebenswerk wurde gewürdigt. So starb er friedlich mit dem Wissen, der Nachwelt seine wunderbare Musik hinterlassen zu haben.