Philip Baker Hall nasce a Toledo, Ohio, dove frequenta le scuole superiori e, successivamente l'università, trovando lavoro come insegnante di una scuola superiore cittadina. Hall, infatti, scopre la passione per la recitazione a tarda età intraprendendo la carriera televisiva prima e cinematografica poi quasi a quaranta anni, senza aver mai recitato prima. Se dapprima scegli New York come apripista per il debutto in un settore alquanto complesso e conseguentemente chiuso nei confronti di chi non ha la necessaria esperienza, in seguito a un sostanzioso numero di apparizioni televisive sceglie di trasferirsi a Hollywood per inseguire il grande schermo.
Il ruolo che lo rende riconoscibile al grande pubblico, non più come una faccia presente sul piccolo schermo, ma come attore dalle discrete potenzialità, è quello di Richard Nixon, interpretato per Robert Altman nella pellicola del 1984 Secret Honor. Seppure il film non riesca a raggiungere un successo degno di nota, l'interpretazione di Hall è comunque rimarcata dalla critica che apprezza e sottolinea il debutto di un quasi cinquantenne che ha ancora tutto da dimostrare.
I due film successivi non sono certo dello spessore dei precedenti ma sotto la direzione di Walter Grauman in Chi è Giulia?e di Eric Laneuville per Mantide, continua a farsi notare come particolare attore fuori dal comune, mostrando una discreta attitudine al perfezionamento e alla minuziosità. L'inizio del nuovo decennio lo vede impegnato più a teatro che sugli schermi facendogli scoprire il fascino del palcoscenico e della recitazione dal vivo. La lontananza dal grande schermo comunque dura molto poco, in quanto dal 1995 inizia un periodo aureo che lo riporta sulla bocca della critica e del pubblico grazie alle interpretazioni realizzate per il remake de Il bacio della morte assieme a Nicolas Cage e Samuel L. Jackson, in Sidney al fianco ancora di Samuel L. Jackson e Gwyneth Paltrow, e di Boogie Nights. Iniziano quindi ad arrivare numerose proposte che Hall valuta sulla base delle proprie potenzialità e della caratterizzazione dei personaggi da interpretare, prendendo parte a pellicole come Air Force One, Psycho, Magnolia, Insidere Il talento di Mr. Ripley, molti sotto la direzioni di eccellenti registi del panorama nordamericano come Michael Mann e Paul Thomas Anderson.
La carriera di Hall continua quindi intraprendendo la strada della selettività che lo porta ad accettare sempre più lavori impegnati o nei quali riesce a riconoscersi, come Dogvilledi Lars Von Trier o In good company di Paul Weitz, o commedie oggettivamene riuscite come Una settimana da Diodi Thom Shadyac. Instancabile divoratore di cinema, Hall sembra intenzionato a continuare il più a lungo possibile una carriera iniziata tardi ma vissuta quantomeno intensamente e che anche recentemente lo ha portato alla realizzazione di due film quali You kill me di John Dahl e Rush hour 3. Negli ultimi anni lo vediamo nel film di Jonathan Levine 50 e 50, in quello di Ben Affleck Argo e in Adorabile nemica di Mark Pellington.