Michael Gross nasceu em 1947 em Chicago, Illinois, filho de Virginia Ruth (Cahill), uma operadora de telefonia, e William Oscar Gross, um designer de ferramentas. Ele esteve envolvido com uma gangue por alguns anos durante o ensino médio antes de se tornar um aluno melhor. Ele passou a ser o presidente da classe sênior. Recebeu um M.F.A. da Escola de Drama da Universidade de Yale. Trabalhou no teatro antes de se mudar para Nova York para iniciar a carreira de ator. Isso acabou levando ao seu papel de destaque no programa Family Ties (1982).
Ele mudou-se para vários outros projetos desde o final do show, incluindo três dos filmes In the Line of Duty, narrando livros de áudio e, provavelmente mais notavelmente, interpretando o personagem Burt nos filmes Tremors (1990).
