Oscar Mueller nasceu em Stuttgart. Antes de se tornar um ator, ele havia treinado como banqueiro. De 1940 a 1945, ele estava no exército. Depois da Segunda Guerra Mundial, ele teve aulas de interpretação com Rudolf Ferchau. Em 1946, atuou pela primeira vez no "Stuttgart Wilhelma Theater" e no "Komoedie im Marquardt". Em 1948, iniciou-se a carreira de Oscar Mueller na transmissão do sul da Alemanha, que durou mais de 50 anos. Além de suas atividades de televisão e radiodifusão, ele começou uma carreira como cantor de sucesso de canções no dialeto da Suábia, embora ele sempre disse que não podia cantar.