Olivia vive a New York, dove è nata e cresciuta. Ha studiato approfonditamente la recitazione shakespeariana classica a New York, presso l'American Globe Theatre, e a Londra alla Royal Academy of Dramatic Art. Nel 2006 Olivia è apparsa in United 93 di Paul Greengrass, che ha riscosso il favore della critica, e in Snow Angels di David Gordon Green, al fianco di Sam Rockwell e KateBeckinsale, presentato in concorso al Sundance Film Festival del 2007.
I prossimi progetti di Olivia sono The Secret (Si j'etais toi), prodotto da Luc Besson, in cui apparirà insieme a David Duchovny e Lili Taylor; Uncerainty di Scott McGehee e David Siegel e Margaret di Kenneth Lonegan, con Anna Paquin e Matt Damon. Olivia è inoltre nel cast di Juno, diretto da Jason Reitman, con Ellen Page, al fianco della quale interpreterà anche il prossimo Jack and Diane, mentre insieme a Josh Peck, suo partner in The Wackness, apparirà in Safety Glass, per la regia di Jonathan Glatzer. Olivia è stata indicata come uno dei Volti Nuovi del Cinema Indipendente dalla rivista Filmmaker.
