Nascido em Memphis, Rosco Gordon era uma referência na cena de blues local quando ele era apenas um adolescente, como pianista e cantor. Seu estilo vocal era chamado de "excêntrico" - ele passava a gemer, lamentar, embaralhar e embaralhar suas palavras - e tendia a misturar seus estilos de piano entre o blues e o boogie-woogie. Na década de 1950, ele exibia ícones como Johnny Ace e Bobby Bland, que gravavam e até transmitiam juntos.
Em 1951, Gordon assinou com o renomado Sam Phillips. Phillips lançou as músicas de Gordon em sua própria gravadora Sun e alugou outras para rótulos como Modern - ele lançou "Booted", de Gordon, em 1953, na Sun and Modern, e alcançou o primeiro lugar nas paradas de R & B - e Duke. Alguns anos mais tarde, Gordon deixou a Sun para a RPM Records, mas apesar de ter tido um sucesso, todas as suas outras gravações não tiveram sucesso. Em 1955 Gordon voltou para Phillips, mas isso durou até 1958 e, em seguida, ele saiu novamente. Ele assinou com a Vee-Jay Records em 1959 e teve um hit, "Just a Little Bit", mas seu tempo foi infeliz - o interesse em R & B começou a desvanecer-se no início dos anos 1960 e sua carreira diminuiu. Mudou-se para Nova York e gravou alguns lançamentos para a Columbia e a ABC-Paramount, e para a ainda menor da Old Town Records, mas nada parecia ajudar. Em 1969, ele começou sua própria gravadora, Bab-Roc, quando ele não conseguiu encontrar nenhuma outra gravadora para assiná-lo. Ele continuou lançando discos nos anos 70, mas acabou se desvanecendo da cena de R & B.
