Dopo aver lavorato come comparsa in alcuni cortometraggi di Hal Roach, ottiene una prima parte di rilievo ne La città distrutta di Irving Cummings (1926), ma il primo grande successo arriva l'anno dopo con Settimo cielo di Frank Borzage e Aurora di Murnau. In breve tempo, grazie anche ai suoi occhi luminosi, la Gaynor diviene il prototipo della donna 'ingenua', conoscendo un grande successo popolare, specie in coppia con Charles Farrel, insieme al quale girerà più di una dozzina di film.
Dopo essere stata premiata con l'Oscar nel 1928 (prima attrice a ricevere il prestigioso riconoscimento), neanche il passaggio al sonoro fa tramontare l'astro della Gaynor, che anzi sfrutta la sua voce un po' infantile per impersonare figure femminili delicate, sempre pronte al sacrificio. Nel 1937, mentre la sua carriera comincia a declinare, interpreta uno dei più grandi successi del cinema americano di tutti i tempi, E' nata una stella, in seguito più volte rifatto.
L'anno successivo la Gaynor decide di ritirarsi dagli schermi accettando di tornarvi solo 20 anni dopo con La donna del sogno di Henry Levin.
La Gaynor è morta a Palm Springs in California nel 1984.