De herança inglesa e alemã, o desajeitado e oval John Schuck nasceu Conrad John Schuck, Jr. em Boston, Massachusetts, em 4 de fevereiro de 1940, filho de um professor de inglês que lecionava, entre outros, tanto no Princeton College quanto no SUNY Buffalo enquanto John estava crescendo. Após se formar na Denison University, onde apareceu em várias peças, John voltou-se para o teatro regional ("Marat / Sade" etc.), incluindo o Cleveland Playhouse, o Baltimore Center Stage e o American Conservatory Theatre em San Francisco.
Descoberto no ACT para filme por Robert Altman, o diretor o apresentou como o Capitão Walter "Painless Pole" Waldowski, o virginal dentista do acampamento do exército, no clássico filme da Guerra da Coréia MASH (1970), dando-lhe uma cena memorável de "defloramento" com a sexy Jo Ann Pflug. Altman continuou a usar John em Brewster McCloud (1970), McCabe & Mrs. Miller (1971) e, com certeza, em Thieves Like Us (1974), indiscutivelmente seu melhor papel no filme como um assaltante de banco em fuga.
Na televisão dos anos 70, além de participações em programas como "Gunsmoke", "Mission: Impossible", "The Mary Tyler Moore Show", "Room 222", "Bonanza", "Ironside" e "Love, American Style, "" Schuck ganhou um papel regular como um sargento inepto, mas altruísta, ao lado do comissário de polícia de Rock Hudson por seis temporadas em McMillan & Wife (1971). Depois disso, no entanto, ele se viu um tanto estereotipado como um idiota e amável como o robô na comédia boba de curta duração Holmes e Yoyo (1976), como o amigo Murray na série renovada The New Odd Couple (1982) e como Herman Munster em The Munsters Today (1987), uma revisita à família macabra da televisão dos anos 1960. Ele também manteve seu nome vivo em programas de jogos populares como "The $ 25,000 Pyramid", "Hollywood Squares" e "Password".
Um trabalho de papel convidado mais desafiador chegou a ele ocasionalmente com séries de televisão como NYPD Blue (1993), Star Trek: Deep Space Nine (1993), Star Trek: Voyager (1995) e Babylon 5 (1993) e no historicamente aclamado Roots do filme para TV (1977). Nos filmes populares Star Trek IV: The Voyage Home (1986) e Star Trek VI: The Undiscovered Country (1991), John apareceu em vários papéis e ganhou um lugar nos corações dos fãs de Trekkie em todo o país. Outros papéis no cinema ao longo do tempo incluíram Blade (1973), Just You and Me, Kid (1979), Earthbound (1981), Finders Keepers (1984), Outrageous Fortune (1987), The New Adventures of Pippi Longstocking (1988), My Mom's a Werewolf (1989) e Dick Tracy (1990).
O palco musical também o marcou. Um cantor talentoso, John apareceu semirregularmente (de 1979 a 2006) como o careca Oliver "Daddy" Warbucks no musical de sucesso "Annie", não apenas na Broadway, mas em turnês e em teatros menores. Ele também obteve sucesso interpretando Frank Butler em "Annie Get Your Gun" com Bernadette Peters em turnê. Outros papéis ao longo do tempo incluíram os musicais "The Sound of Music", "Peter Pan", "The Most Happy Fella" e "She Loves Me". Ele co-estrelou a estréia original de "Grumpy Old Men" em 2011 e depois voltou à Broadway em 2013 como um substituto no musical de Gershwin "Nice Work If You Can Get It".
No milênio, na TV, John interpretou um capitão de polícia em um episódio de "Diagnosis Murder", teve um papel recorrente como Chefe dos Detetives em Law & Order: Special Victims Unit (1999), e teve outro papel recorrente como o lojista Carl na série de aventuras de skate Zeke e Luther (2009). Ele também apareceu nos filmes Closer to God (2014) e All Light Will End (2018).
Um marinheiro às escondidas, John Schuck é pai para filho Aaron através de seu primeiro casamento (1978-1983) com a ex-atriz Susan Bay Nimoy. Casou-se com a atual esposa, o pintor Harrison Houlé, em 1990.