John Mark Galecki nasceu em Bree, Bélgica, filho de pais americanos; seu pai estava estacionado lá enquanto servia na Força Aérea dos EUA. Quando ele tinha três anos, sua família mudou-se para Chicago, Illinois, onde ele cresceu com seus pais, Mary Lou e Richard Galecki, e irmãos, irmã Allison (1980) e irmão Nick (1982). Seu pai era descendente de poloneses e a ancestralidade de sua mãe é irlandesa e italiana. Sua mãe era uma consultora de hipotecas e seu pai se tornou um professor para veteranos cegos em um hospital VA fora de Chicago. Quando Galecki tinha dezesseis anos, seu pai morreu em um acidente.
Sua mãe relembrou em uma entrevista à revista People que Galecki era um garoto muito artístico; com apenas 4 anos, ele disse a ela: "Mãe, eu vou estar na TV, e não é isso quando eu crescer." Dois anos depois, quando suas tentativas de distraí-lo com esportes fracassaram, os pais de Galecki o levaram para abrir audições em teatros locais em Chicago. Ele conseguiu seu primeiro papel em "Fiddler on the Roof", e mais papéis em outras produções se seguiram. Aos 11 anos, ele já era conhecido como um excelente ator no cenário teatral de Chicago, evidenciado por ter recebido uma indicação à Joseph Jefferson Citation por interpretar John Henry em "The Member of the Wedding".
Em 1989 ele foi escalado para seu primeiro filme, um filme de férias chamado Prancer (1989), mas sua grande chance foi em outro filme de Natal como o filho de Chevy Chase, Rusty Griswold, em National Lampoon's Christmas Vacation (1989). No set, Chase gostou dele, e Galecki lembrou em uma entrevista posterior que Chevy Chase lhe mostrou alguns truques para o timing da comédia.
Naquela época, toda a sua família havia se mudado de Chicago para L.A. para apoiar sua carreira. Mas em 10 meses eles perceberam que sentiam muita falta de Chicago e voltaram para casa. Galecki, com apenas 14 anos, estava sob contrato para um programa com Robert Urich chamado "American Dreamer (1990)", então ele ficou em Los Angeles. Embora morasse sozinho em um estúdio, ele nunca teve problemas e era um bom garoto. Ele se lembra de ter morado sozinho em Los Angeles sem a supervisão de um adulto como "nada divertido" e "bastante intimidante e solitário, para ser honesto. Mas sempre sou mais feliz quando estou trabalhando, então ..." Ele comprou uma motocicleta com espelho retrovisor capacete para trabalhar e voltar, nos estúdios da Paramount.
Em 1991, Galecki foi escolhida por Roseanne Barr para interpretar seu filho no filme feito para a TV Backfield in Motion (1991). Ela gostava tanto dele que o convidou para participar de sua sitcom para o que começou como uma aparição única, mas logo se transformou no importante papel recorrente de David Healy. Sua família era um telespectador religioso do programa e ele ficou um tanto intimidado no início por trabalhar com seus heróis da televisão. No entanto, em pouco tempo, foram seus heróis que o elogiaram: Roseanne disse que ele mostrava "grande vulnerabilidade". John Goodman disse: "Se ele fosse um daqueles ursinhos de pelúcia em um carrossel, ele usaria uma camiseta do Wuv me. As pessoas só querem cuidar dele." Galecki também se tornou amigo íntimo da co-estrela Sara Gilbert e do produtor executivo do programa, Eric Gilliland.
Depois de Roseanne (1988), ele trabalhou em uma série de papéis diversos, desde o engraçado Ira ao lado de Christopher Walken na comédia de humor negro Suicide Kings (1997) a um estudante viciado em drogas em Bookies (2003), e interpretou personagens gays em Don Roos's Bounce (2000) e The Opposite of Sex (1998). Ele nunca ficou longe da indústria da televisão ao fazer aparições especiais como o amante mais jovem de Laurie Freeman em Norm (1999) (onde mais uma vez trabalhou com Laurie Metcalf, sua ex-colega de elenco de Roseanne), como jogador de golfe em My Name Is Earl ( 2005), como o irmão mais novo de Hope & Faith (2003) na sitcom de mesmo nome, e como o hilário festeiro Trouty on My Boys (2006). Em 2006, ele voltou às suas raízes no teatro ao assumir o papel do conflituoso, mas doce, acompanhante Alex na peça de Douglas Carter Beane "The Little Dog Laughed", pela qual recebeu o Theatre World Award de 2007 por Outstanding Browdway Debut.
Em 2007, ele estava de volta às pequenas telas, estrelando como Leonard Hofstadter na sitcom The Big Bang Theory (2007). Não só foi Chuck Lorre, um ex-produtor de Roseanne, um produtor do novo programa, mas Sara Gilbert e Laurie Metcalf fizeram aparições especiais.
Galecki é um motociclista "nerd" que se autodenomina e dirige uma Harley Davidson Softail Deluxe. Embora nunca tenha feito faculdade, ele disse: "Não estou morto! Nunca devemos parar de aprender. Nunca devemos parar de absorver", e assim ele aprendeu a tocar violoncelo quando tinha vinte e poucos anos. Gosta de viajar pelo mundo, pintar, ouvir música (também toca contrabaixo) e fazer caminhadas com a cadela Vera.
Ele sempre foi muito reservado sobre sua vida pessoal e pouco se sabe sobre relacionamentos anteriores. Só foi confirmado que ele namorou as atrizes Laura Harris e Kaley Cuoco. Ele não está no Twitter, e Galecki disse uma vez: "Não entendo o atual estado de espírito em nossa sociedade que parece dizer que qualquer ação não tem valor até que seja transmitida de alguma forma."
Ele ainda mora em Los Angeles, mas é frequentemente visto em Chicago, onde seus irmãos ainda moram.
