Nato vicino a San Francisco, figlio di due attori, Sam Rockwell viene reclutato per uno sketch comico già all'età di dieci anni. Si era trasferito a New York per poi tornare in California con la madre dopo la separazione della coppia. Ancora al liceo, Sam appare nel film indipendente Clownhouse (1989).

Predestinato
La predilezione per le produzioni indipendenti ed estranee al mondo di Hollywood sarà una costante nella carriera di Sam Rockwell, anche dopo la fama internazionale e le interpretazioni accanto a grandi star del cinema. Dopo Clownhouse decide dunque di tornare a New York per continuare la recitazione. Appare in piccole parti in Last Exit to Brooklyn (1989) o In the Soup (1992) e aderisce alla Labyrinth theatre company di New York City. La sua carriera ottiene una vera svolta nel 1996, quando partecipa a Box of Moonlight di Tom DiCillo, dove interpreta un loser sulla cattiva strada, aggiungendo molto pathos al personaggio scritto da DiCillo e facendosi notare accanto a un attore di calibro quale John Turturro.
Sam Rockwell sarà capace di alternare, da allora, interpretazioni in piccoli film indipendenti, dove privilegia ruoli da outsider che si fanno carico di grandi problemi personali, con film hollywoodiani di alta qualità.

Una carriera di ampio respiro
Dopo l'interpretazione in Box of Moonlight le proposte si susseguono una dietro l'altra. Appare nella produzione indipendente Lawn Dogs (1997) per cui è Miglior Attore al Montreal World Film Festival e al Catalonian International Film Festival. Sarà successivamente in due commedie, Jerry and Tom (1998) e Safe Man (1998).

Hollywood si accorge di lui
La grande quantittà di parti in piccole produzioni indipendenti inizia a renderlo noto a grandi registi e produttori. Nel 1998 è in Celebrity di Woody Allen, nell'all-star Sogno di una notte di mezza estate (1998) e soprattutto in Il miglio verde (1999), nel ruolo di "Wild Bill" Warthon accanto a Tom Hanks. Appare quindi in Galaxy Quest (1999), inedito in Italia, e in Charlie's Angels (2000) dove interpreta il cattivo miliardario Eric Knox. La definitiva consacrazione a attore hollywoodiano avviene con Confessioni di una mente pericolosa (2002) di George Clooney, dove interpreta l'uomo dalla doppia vita Chuck Barris, produttore televisivo di giorno, assassino per conto della CIA la notte. Almeno stando alle sue memorie. L'interpretazione gli vale il premio come migliore attore maschile alla Berlinale.
Nel 2003 ruba la scena a Nicolas Cage in Il genio della truffa di Ridley Scott, mentre nel 2002 era apparso nel remake americano di I soliti ignoti, Welcome to Collinwood. Sam interpreta inoltre il presidente della galassia ne La guida galattica per autostoppisti (2005), tratto dal romanzo di fantascienza di Douglas Adams. Nel 2007 appare ne L'assassinio di Jesse James per mano del codardo Robert Ford, mentre nel 2008 è il padre di Joshua (2007) bambino con problemi psichici dell'Upper East Side newyorchese. Dall'omonimo romanzo di Chuck Palahniuk è l'(anti)eroe di Soffocare (2008) e sempre nello stesso anno fa parte del manipolo di uomini che misero con le spalle al muro Nixon in Frost/Nixon - Il duello di Ron Howard. Nel 2009 è lo stralunato, mai come in questo caso di nome e di fatto, protagonista del film Moon di Duncan Jones a cui fa seguire G-Force - Surperspie in missione e Betty Anne Waters di Tony Godwyn fino ad arrivare al 2010, dove fa parte del cast stellare di Iron Man 2. Lo ritroviamo anche nella pellicola Stanno tutti bene per la regia di Kirk Jones, remake dell'omonimo lungometraggio diretto da Giuseppe Tornatore. Nel 2011 è accanto a Daniel Craig e Harrison Ford nell'action-fantasy Cowboys & aliens e a Jonah Hill ne Lo spaventapassere di David Gordon Green. Nel 2012 interpreta Billy nel film di Martin McDonagh 7 psicopatici, e l'anno successivo è tra i protagonisti della commedia C'era una volta un'estate di Nat Faxon e Jim Rash. Tornerà ancora a lavorare con Martin McDonagh in Tre manifesti a Ebbing, Missouri (2017), per cui si aggiudicherà il Gloden Globe come miglior attore non protagonista.