Joe Tong nasceu na ilha de Pulau Besar, na costa da Malásia, em um campo de refugiados durante a Guerra do Vietnã. Seu pai era capitão de um barco pesqueiro vietnamita e sua mãe uma comerciante chinesa.
Depois de fugir do Vietnã, Tong e seus pais logo ganharam patrocínio para a América, onde foi criado em Oklahoma City, Oklahoma. Os pais de Tong se divorciaram quando ele era adolescente e, depois de frequentar a faculdade, ele desistiu e se mudou para Los Angeles em 2003.
Joe Tong conseguiu seu primeiro papel no filme Chicago Massacre: Richard Speck (2007). Desde então, Tong apareceu em vários comerciais, programas de TV e filmes.