Tony Romano nasceu em uma família musical, uma das 14 crianças. Seus pais emigraram de uma pequena cidade perto de Napoli, no sul da Itália, (a mesma cidade que o compositor Harry Warren se tornou um amigo de longa data) para Madera, na Califórnia e depois para Fresno, onde seu pai se tornou sapateiro.
O pai de Tony ensinou todas as músicas de seus filhos e Tony aprendeu violino e violão. Como muitas famílias do período, o entretenimento da noite era apresentações musicais acompanhadas de piano (seu irmão Nick), violão (Tony e seu irmão John) e violino (Tony e seu pai). Todos cantaram. Quando Tony tinha 15 anos, seu irmão mais velho, John, o levou a São Francisco para apresentá-lo ao comediante Al Pearce, que tinha um show popular, "A Alfa Happy Go Lucky Hour" (também conhecida como Al Pearce e sua Gangue). Apesar do fato de Tony ter ganhado uma bolsa de estudos para estudar violino em Milão, ele aceitou a oferta de Pearce para participar do programa para que ele pudesse sustentar toda a sua família.
Romano é talvez mais conhecido por ter viajado 6 milhões de milhas durante a Segunda Guerra Mundial, entretendo literalmente milhões de G.I.s como um dos 4 membros originais do programa USO de Bob Hope (com Hope, Jerry Colonna e Frances Langford). Durante esse tempo ele se apresentou para os presidentes Roosevelt, Truman e Eisenhower.
