Billy Crudup non è uno di quegli attori che vogliono essere una star di primo piano, si accontenta di essere "quasi famoso", motivo che lo spinge a scegliere "quasi sempre" ruoli marginali, dove è "quasi irriconoscibile": dal baffuto Steve Prefontaine al Russell del suo film più noto, mantenendo una sottile autoironia e soprattutto un'eccelsa e forbita recitazione.
Cresciuto fra la Florida e il Texas, per via del lavoro dei suoi genitori (che si sposarono, divorziarono e si risposarono), era considerato uno dei pagliacci del liceo St Thomas Aquinas High School. Dopo essersi laureato alla University of North Carolina di Chapel Hill, andò a vivere con il fratello giornalista e frequentò la New York University, studiando recitazione e unendosi a una compagnia teatrale chiamata The Lab!, con i quali cominciò a recitare in musicals (in particolar modo ebbe una parte rilevante in "You're A Good Man Charlie Brown!"). Dopo la laurea, nel 1994, Crudup ottiene il ruolo da protagonista nel film indipendente Grind, che però rimarrà senza distribuzione per ben 3 anni e, infatti, uscirà solo nel 1997.
Nel contempo, questo attore comincia a far conoscere il suo nome negli spettacoli off-Broadway, con un notevole successo, ed esordisce al cinema con Sleepers (1996) di Barry Levinson, accanto a un cast di grandi nomi maschili del cinema come: Kevin Bacon, Robert De Niro, Brad Pitt, Vittorio Gassman e Dustin Hoffman. Con la conclusione della relazione con l'attrice Laurel Holloman, si fidanza con Mary-Louise Parker con la quale comincia una lunga convivenza a New York e con la quale porterà sul palcoscenico "Fermata d'autobus". Ritrovatasi incinta, la Parker sarà lasciata al settimo mese di gravidanza da Crudup (che preferirà stare con Claire Danes). L'attore non assisterà così alla nascita del suo primo figlio: William Atticus.
Dopo Tutti dicono I love you (1996) di Woody Allen e dopo la distribuzione nelle sale di Grind, le porte del successo sono spalancate. Pat O'Connor lo sceglie per affiancare Kathy Bates, Joaquin Phoenix e Liv Tyler in Innocenza infranta (1997) e lui si presta anche come doppiatore (Principessa Mononoke, 1997). James Cameron lo vorrebbe per il Jack Dawson di Titanic, ma Crudup non è attirato da parti "facili" e decide di trovare delle pellicole che realmente mostrino la natura umana delle persone. Per questo motivo, sceglie The Hi-Lo Country (1998) di Stephen Frears, un western con Patricia Arquette, Penelope Cruz e Woody Harrelson.
Nel 2000, dopo il forfait dato da Brad Pitt a Quasi famosi (2000) di Cameron Crowe (lui voleva girare Fight Club), appare nella pellicola suddetta nel ruolo di Russell. È una delle interpretazioni migliori di tutta la sua carriera, senza contare che lo mise in luce di fronte ad altri registi come Gillian Armstrong che lo volle per il biografico Charlotte Gray (2001) e soprattutto il geniale Tim Burton che lo impose nel cast di Big Fish - Le storie di una vita incredibile (2003), nella parte del figlio scettico del bugiardo Albert Finney.
Nominato al Tony Award per la sua versione broadwayana di John Merrick in "The Elephant Man", rimpiazza l'attore Michael Hayden nello spettacolo teatrale "Enrico IV" e poi si lascia dirigere da Richard Eyre ne Stage Beauty (2004), sul quale set conoscerà proprio la Danes. Nel 2005, avrà la sua seconda nomination ai Tony Award per la parte di Martin McDonagh in "The Pillowman", rendendolo un attore appetibile per Robert De Niro che lo inserirà nel cast del suo thriller spionistico L'ombra del potere - The Good Shepherd (2006).
Dopo aver vestito i panni del Dr. Manhattan nell'adattamento di grande successo della graphic novel Watchmen, diretto da Zack Snyder, Billy compare nel film Nemico Pubblico - Public Enemies di Michael Mann accanto a Johnny Depp e Christian Bale. Nel 2016 si farà notare ne Il caso Spotlight di Thomas McCarthy e nel biopic di Pablo Larrain Jackie. Passerà poi alla fantascienza con Alien: Covenant, in cui è diretto da Ridley Scott. Diretto poi da Richard Linklater in Che fine ha fatto Bernadette?, recita accanto a Julianne Moore e Michelle Williams in Dopo il matrimonio di Bart Freundlich.
Billy Crudup è migliore nelle pellicole indipendenti. Il suo ritmo è perfetto ed è un regalo per qualsiasi regista.