Figlia di un'attrice e di un musicista jazz, Allison Janney sogna in gioventù una carriera da pattinatrice olimpionica, bruscamente interrotta da un incidente domestico: l'impatto con una porta a vetri non vista le provoca ferite serie e la costringe ad abbandonare la carriera sportiva. Mentre è studentessa di college, la Janney viene scritturata per una rappresentazione teatrale nel campus diretta dall'ex studente Paul Newman; è proprio la moglie di Newman, Joanne Woodward a suggerire a Allison di proseguire gli studi di recitazione, prima a New York poi alla Royal Academy of Dramatic Art di Londra. A teatro, ha recitato al fianco di Anthony LaPaglia a Broadway in "A View from the Bridge", per il quale ha ottenuto una nominationa al Tony Award, e con Frank Langella in "Present Laughter".

Telenovele e commedie
Fuori dal palcoscenico, la carriera della Janney passa attraverso la tv: prima con un ruolo fisso nella soap Sentieri, poi con un paio di apparizioni in Law&Order: Criminal Intent. Al cinema arriva negli anni '90, specializzandosi in ruoli di caratterista per lo più nelle commedie sofisticate americane, come Parlando e sparlando del 1996, Celebrity, Sei giorni sette notti e L'oggetto del mio desiderio. Tuttavia copre anche ruoli drammatici in alcuni film dei più importanti autori emergenti degli anni '90, come in Tempesta di ghiaccio di Ang Lee e American Beauty di Sam Mendes, nel 1999. Nello stesso anno, ottiene il ruolo per il quale è certamente più celebre presso il pubblico televisivo: quello di Claudia Jean Cregg, detta C.J., la segretaria del presidente degli Usa in West Wing - Tutti gli uomini del presidente, ruolo che le fa vincere ben 4 Emmy (è l'unica attrice della serie ad averne conquistato più di uno).

Caratterista di razza
Mai protagonista ma sempre memorabile nei suoi ruoli minori, nello scorso decennio la Janney si è distinta in Betty Love e nel drammatico The Hours, dove è l'amante di Meryl Streep; scherzando ha raccontato che un agente le disse che data la sua altezza (ben 1,83 m) poteva interpretare solo lesbiche e alieni. Battuta decisamente smentita dalla sua interpretazione della matrigna di Ellen Page in Juno, nel 2007, e in Hairspray - Grasso è bello. Spesso scelta da autori indipendenti del panorama americano, ha lavorato nuovamente con Sam Mendes in American life ed è apparsa in Perdona e dimentica di Todd Solondz, anomalo sequel di Happiness.
La ritroviamo poi nel fortunato The Help (2012), oltre che nel dramma di Kenneth Lonergan Margaret (2012) e nella commedia C'era una volta un'estate (2013).
Tra le più recenti interpretazioni troviamo Bombshell, Ma e The Creator.