Ericson nasceu em Düsseldorf, filho de um químico alemão e de uma atriz e cantora de ópera sueca. Escapando do regime nazista, sua família emigrou para os EUA quando ele tinha três anos. A princípio morando em Detroit, eles acabaram se estabelecendo em Nova York, onde seu pai (de acordo com um artigo de jornal de 1955) encontrou um emprego lucrativo como presidente de uma empresa de extração de alimentos. Depois de se formar na Newton High School, John se matriculou na Academy of Dramatic Arts, apoiando financeiramente seus estudos trabalhando em uma drogaria Walgreen.
A maioria das fontes cita incorretamente sua estréia como ator como Stalag 17 na Broadway, mas o próprio Ericson afirmou (em uma entrevista de 1989 com Skip E. Lowe) que sua carreira começou com o drama romântico do tempo de guerra Teresa (1951), filmado na Itália pela Metro Goldwyn Mayer. Depois disso, ele tomou a decisão de não assinar um contrato com o estúdio por medo de ser rotulado como do tipo 'garoto da porta ao lado'. Com a força de sua atuação em Teresa, o produtor / diretor José Ferrer ofereceu a Ericson não apenas o que parecia ser a liderança nominal em Stalag 17, mas a oportunidade de desempenhar um papel inicialmente antipático como o astuto e cínico jogador JJ Sefton (o cobiçado movimento papel no cinema acabou sendo atribuído a William Holden e ganhou o Oscar para a estrela).
Entre 1954 e 1955, Ericson foi contratado pela MGM e fez quatro filmes para o estúdio: Rapsódia (1954) (ao lado de Elizabeth Taylor), Green Fire (1954) (co-estrelado por Grace Kelly, que havia feito sua aula na Academia ) e o faroeste seminal de Spencer Tracy, Bad Day at Black Rock (1955) (como um nervoso atendente de hotel). Durante as três décadas seguintes, ele trabalhou como ator autônomo, sua beleza de cabelos ondulados e constituição atlética não foram perdidos pela indústria. Ele co-estrelou com Anne Francis em Honey West (1965), uma série de curta duração - aparentemente inspirada em Os Vingadores (1961) - que apresentava uma detetive conhecedora de judô e solucionadora de crimes (usando até mesmo macacões estilo Diana Rigg ) e seu braço direito. O show durou apenas 30 episódios, mas desde então ganhou um pequeno culto de seguidores.
As participações frequentes de Ericson na TV incluem Rawhide (1959), Burke's Law (1963), Bonanza (1959), The Invaders (1967) e The F.B.I. (1965). Para o cinema, estrelou vários pastiches e westerns spaghetti de James Bond, produzidos na Itália e na Espanha. Nos Estados Unidos, ele teve protagonistas em thrillers (The Money Jungle (1967)), faroestes (notavelmente, The Return of Jack Slade (1955) e High Noon (1952) - semelhante a Day of the Badman (1958)) e ficção científica B-grade (The Destructors (1968) e último filme de Dan Duryea, The Bamboo Saucer (1968)). Ele também estrelou como o gangster titular da era da depressão dos anos 1930 em Pretty Boy Floyd (1960). No palco, ele interpretou o Rei Arthur para a Guinevere de Kathryn Grayson em uma produção de 1967 do musical Camelot. Um crítico comentou que o que faltava a Ericson no departamento vocal, ele mais do que compensou por uma 'performance magistral'. Seus créditos teatrais dramáticos incluem Ricardo III, Mr. Roberts e A Streetcar Named Desire.
Em seu tempo livre, John Ericson se afastou como pintor de paisagens e naturezas mortas, escultor e fotógrafo amador entusiasta. Até sua morte em 3 de maio de 2020, ele residiu no Novo México com sua segunda esposa Karen Huston, com quem se casou em 1974. Ele tem uma estrela na Calçada da Fama de Hollywood.
