La Margolyes nasce a Oxford da una famiglia benestante. Frequenta la Oxford High School e si iscrive al Newnham College dell'Università di Cambridge. Durante gli anni universitari si appassiona alla recitazione e appare in diverse produzioni del Cambridge University Footlights Dramatic Club.
Grazie alla sua voce particolare comincia a lavorare molto presto come doppiatrice, incide libri audio e presenta programmi in radio. Contemparaneamente continua a coltivare la passione per la recitazione, lavorando prevalentemente in teatro.
Il suo primo ruolo cinematografico è nel film Stand Up, Virgin Soldiers del 1977. Negli anni '80 la Margolyes è nel cast della sit com ingese Blackedder, al fianco di Rowan Atkinson. Nel 1989 vince il LA Critics Circle Award come Miglior Attrice non protagonista per la sua interpretazione di Flora Finching nel film Litle Dorrit e nel 1994 le assegnano il premio BAFTA per la sua Mrs Mingott nel film di Martin Scorsese L'età dell' innocenza. Nel 1996 è la balia nel film Romeo + Giulietta di Baz Luhrman e nel 2002 è la Professoressa Sprout in Harry Potter e la camera dei segreti e di nuovo nel 2011 in Harry Potter e i doni della morte.
Dichiaratamente omosessuale, è legata alla sua compagna Heather da oltre quarant'anni.