Julianna Margulies nasceu em 8 de junho de 1966 em Spring Valley (perto de Nova York), como a mais jovem das três filhas de Francesca (Goldberg), professora e dançarina do American Ballet, e Paul Margulies, escritor e filósofo publicitário. Ela é de herança judaica Ashkenazi (da Romênia, Áustria, Hungria e Rússia). Até o início do ensino médio em New Hampshire, aos 14 anos, morou vários anos com a família em Paris e na Inglaterra. Ela obteve um B.A. graduação em artes liberais pelo Sarah Lawrence College, onde ela apareceu em várias peças no campus. Ela trabalhou como empregada de mesa até seu primeiro papel como prostituta procurando seguir direto para Out for Justice (1991). Demorou mais de um ano para encontrar outro papel; durante esse tempo, ela conseguiu se sustentar de várias produções teatrais regionais e anúncios de TV nacionais. Até se tornar regular no ER (1994), ela participou de várias séries de televisão e de um piloto. Desde então, ela atuou em vários filmes, incluindo Ghost Ship (2002), Evelyn (2002) e Snakes on a Plane (2006), e encabeça o drama da CBS The Good Wife (2009), pelo qual ela ganhou tanto um Emmy e um Globo de Ouro.
