John Irwin McGiver começou a atuar relativamente tarde. Ele segurou B.A. e fez mestrado em inglês pela Fordham, Columbia e Catholic Universities, e passou seus primeiros anos ensinando teatro e discurso na Christopher Columbus High School, no Bronx. Ele teve um flerte inicial com a profissão de ator em 1938 como ator / diretor do Irish Repertory Theatre, mas descobriu que sua renda semanal de $ 26,42 era insuficiente para sobreviver. Ele se alistou no ano seguinte e entrou em ação durante a Segunda Guerra Mundial, lutando com a 7ª Divisão Blindada dos EUA na Europa (incluindo a Batalha do Bulge). Quando foi desmobilizado após seis anos no exército, ele ocupava o posto de capitão. Ele voltou a ensinar teatro, com incursões ocasionais na atuação off-Broadway. Em 1947, ele se casou com a designer de cenários de Chicago Ruth Shmigelsky e se estabeleceu para morar em uma antiga igreja batista do século 19 convertida.
Há histórias conflitantes sobre como McGiver acabou se tornando um ator de cinema e televisão, mas isso aconteceu algum tempo depois de uma de suas atuações em meio período em setembro de 1955, seja através dos escritórios de um antigo colega de classe que se tornou produtor de palco ou através do persuasivo habilidades de um agente da Music Corporation of America.Em qualquer caso, o corpulento, careca, parecido com uma coruja e precisamente falado McGiver desenvolveu rapidamente um estilo inimitável como ator cômico (e ocasionalmente sério) na televisão e no cinema.Ele foi mais memorável como o obtuso empreiteiro paisagista em The Gazebo (1959), um pomposo vendedor de joias em Breakfast at Tiffany's (1961) e um inepto twitcher em Mr.Hobbs Takes a Vacation (1962).Ele também interpretou o Sr.Sowerberry em uma versão para a televisão de Oliver Twist (1959) e estrelou seu próprio (infelizmente de curta duração) programa de TV, Many Happy Returns (1964), como o gerente de reclamações de uma loja de departamentos.Seus papéis dramáticos incluíram um senador em The Manchurian Candidate (1962) e, na televisão, o prefeito corrupto em The Front Page (1970), além de um raro papel de vilão no episódio de TV The Birds and the Bees Affair (1966).Entre seus inúmeros papéis especiais na televisão, ele estava em seu melhor desempenho como o egocêntrico Roswell Flemington, que aprende uma lição de moral em Sounds and Silences (1964) (1964).