Seu pai era um jornalista irlandês da Filadélfia, Benny McNulty. Ele era parente dos gerentes de campanha de Jim Farley Roosevelt e, posteriormente, do Postmaster General. Quando criança, ela cantava canções em um cinema mudo. Após a sexta série, ela se juntou a uma turnê de vaudeville chamada "The Kiddie Kabaret". Anunciada como Penny McNulty, ela cantou e dançou com Milton Berle e Gene Raymond. Sua primeira participação foi em um show de Jack Benny na Broadway "Great Temptations".
Mudando-se para Hollywood, ela adotou um novo nome após se casar com o dentista Lawrence Singleton. Seu primeiro nome derivou de ter guardado grandes quantidades de moedas de um centavo. Ela interpretou uma durona dançarina de boate em After the Thin Man (1936) e atuou / cantou / dançou em Swing Your Lady (1938), um dos filmes que Humphrey Bogart considerou como o seu pior. Embora naturalmente uma morena, ela clareou o cabelo de loiro desde que conseguiu o papel de Loira naquela longa série.
