Jay Baruchel nasceu em Ottawa, Ontário, e foi criado em Montreal, Quebec, Canadá. Ele é filho de Robyne (Ropell), um escritor freelance, e de Serge Victor Baruchel, um negociante de antiguidades. Ele tem uma irmã mais nova que também atua. Ele começou a atuar em 1995, quando fez sua primeira de três aparições no seriado de sucesso Are You Afraid of the Dark? (1990). Ele também participou de programas mais localizados, como My Hometown (1996) e Popular Mechanics for Kids (1997).
Baruchel passou algum tempo ocioso e finalmente teve a chance de estar em um filme clássico chamado Almost Famous (2000) em 2000. Ele interpretou "Vic", um fã devoto do Led Zeppelin. Judd Apatow logo teve um show em andamento e Baruchel interpretou "Steven Karp" em Undeclared (2001). Ele também teve a chance de estrelar ao lado de atores como Ian Somerhalder e James Van Der Beek como "Harry" em As Regras da Atração (2002). As coisas começaram a desacelerar um pouco depois de mais alguns shows fracassados. Ele voltou como o corajoso "Danger Barch" em Million Dollar Baby (2004). Ele também apareceu em muitos filmes independentes, como Fetching Cody (2005), Just Buried (2007) e Real Time (2008).
Ele também participou de muitos filmes de comédia americanos de sucesso. Ele foi o protagonista em Ela está fora da minha liga (2010) e interpretou um dos melhores amigos de Seth Rogen (o que ele realmente é) no filme Knocked Up (2007). Ele também deixou sua marca em filmes para famílias, como How to Train Your Dragon (2010), interpretando o improvável "Viking Hiccup" e também interpretou o papel-título em O Aprendiz de Feiticeiro (2010) ao lado de sua alma gêmea recém-descoberta, o ator Nicolas Cage.
Baruchel viveu seu sonho ao trabalhar na comédia de hóquei Goon (2011), e está trabalhando em muitos outros filmes que ele considera projetos de paixão.