Periodo d'oro quello del caratterista James Cromwell quando si parla dei suoi cinquant'anni. Vale a dire da quando è passato da piccoli ruoli televisivi a grandi e significative parti sul grande schermo. Ha recitato con i migliori attori del panorama cinematografico americano ed è stata la scelta giusta di molti registi, fra cui Curtis Hanson e Benjamin Ross. Quest'ultimo ha ben visto nei suoi occhi lo stesso sguardo di Orson Welles quando interpretava il magnate Kane in Quarto potere, infatti gli ha offerto il ruolo del rabbioso e prepotente Willam Randolph Hearst, personaggio politico realmente esistito che ispirò per l'appunto Welles nel suo capolavoro del 1941. Il cittadino Cromwell, in effetti, nonostante una vaga aria anglosassone (non per niente ha vestito anche i panni del Principe Filippo d'Inghilterra in The Queen) è un attore statunitense pungente e mai strampalato o imbranato nelle sue caratterizzazioni.
Figlio dell'attrice Kay Johnson e dell'attore e regista John Cromwell, James cresce a Manhattan (New York), frequentando però il prestigioso liceo di Hill School di Pottstown, in Pennsylvania, e studiando poi al Middlebury College e al Carnegie Institute of Technology. Con la caccia alle streghe del senatore McCarthy, suo padre finisce nella lista nera di comunisti, con gravi conseguenze economiche per la sua famiglia. Mentre suo padre subisce l'emarginazione sociale e professionale da parte dei colleghi, lui si allontana dal mondo dello spettacolo dove si era formato e studia ingegneria alla Carnegie Mellon University, attivandosi politicamente (nonostante il suo colore di pelle) nelle Pantere Nere per tutti gli Anni Sessanta. La passione per la recitazione lo reclama verso la fine del 1960, quando lavora come attore in una serie di spettacoli teatrali improntati sullo sperimentalismo, ma anche su classici shakespeariani. Tanta sarà la gioia nel recitare che si presenterà a innumerevoli provini televisivi, partecipando - con piccole apparizioni e caratterizzazioni - a telefilm come Agenzia Rockford (1974) e Arcibaldo (1974). Nel 1976, sposa Anne Ulvestad, dalla quale avrà ben tre figli: Kate, John e Colin Cromwell, poi divorzierà da questa, risposandosi solo nel 1986 con l'attrice Julie Cobb.
Il suo debutto sul grande schermo arriva nel 1976, quando Robert Moore gli chiede di essere l'autista dell'ispettore Milo Perrier (fantomatica e ironica imitazione dell'Hercule Poirot partorito dalla penna di Agata Christie) nel giallo demenziale Invito a cena con delitto. Accanto a lui una serie di stelle, oggi relegate a ruoli di secondo piano oppure defunte come David Niven, Peter Sellers, Eileen Brennan, Peter Falk, Alec Guinness, Elsa Lanchester e Maggie Smith. Il film è esilarante, ma Cromwell non riesce comunque a sfondare nel grande schermo, così si accontenta di presenziare il piccolo partecipando alla miniserie con Glenn Ford Once an Eagle (1976) o a innumerevoli telefilm come: Sulle strade della California (1977), MASH (1977), Tre cuori in affitto (1977), Alice (1978) e il suo spin-off Flo (1980), La famiglia Bradford (1978), La casa nella prateria (1980), Il mio amico Arnold (1979-1982), La piccola grande Nell(1984), Giudice di notte (1985), Casa Keaton (1985), Supercar (1985), Hardcastle e McCormick (1985), Riptide (1985), la soap opera Dallas (1984-1985), Hunter (1985), Hill Street giorno e notte (1985), Magnum P.I. (1986), Top Secret (1985-1986), Storie incredibili (1986) e Ai confini della realtà (1985).
Inutile dire che la televisione renderà James Cromwell un volto riconoscibilissimo dal pubblico e soprattutto apporrà le basi necessarie per conferirgli professionalità e così farlo considerarlo dai critici uno dei caratteristi più valenti e capaci del panorama recitativo degli Anni Settanta-Ottanta. Se ne accorge anche il cinema che lo vuole accanto a Steve Martin e Kathleen Turner in Ho perso la testa per un cervello (1983) e poi al defunto River Phoenix in Explorers (1985). Sarà diretto persino da Blake Edwards in Un bel pasticcio! (1986) e reciterà affianco a Clint Eastwood in Pink Cadillac (1989). Poi, dopo i telefilm Matlock (1990) e Jake & Jason Detective (1991), nonché il film tv Storia di ordinaria violenza (1991), recita uno dei ruoli più proficui della sua carriera: il paziente e fiducioso fattore Hoggett nel film per bambini Babe - Maialino coraggioso (1995), personaggio che gli permetterà di avere la sua prima nomination all'Oscar come miglior attore non protagonista, soffiatogli però via da Kevin Spacey per I soliti sospetti.
Seguirà un lungo periodo del piccolo schermo, ancora con piccole apparizioni in serial come Quell'uragano di papà (1994), La famiglia Brock (1995), Renegade (1995), Il cliente (1996) e il film tv L'asilo maledetto (1995). Nel 1996, è con Arnold Schwarzenegger ne L'eliminatore e diretto da Milos Forman in Larry Flynt - Oltre lo scandalo, anche se il ruolo migliore della sua carriera lo deve a Curtis Hanson che lo affianca, nella parte del Capitano della polizia corrotto Dudley Liam Smith, alla prostituta Kim Basinger, al giornalista da quattro soldi Danny DeVito e ai poliziotti Russell Crowe e Kevin Spacey in L.A. Confidential(1997), tratto dall'omonimo romanzo di James Ellroy. Osannato dalla critica, recita nel catastrofico Deep Impact (1998) con Robert Duvall e Vanessa Redgrave, nel melodrammatico La neve cade sui cedri (1999) con Max von Sydow e nel film con John Malkovich RKO 281 - La vera storia di Quarto potere(1999). Sarà poi con Tom Hanks ne Il miglio verde (1999) e con John Travolta ne La figlia del generale (1999). Perfetto per macchiette militari o da uomo d'affari recita con Harvey Keitel in A prova di errore (2000) e poi nel film di Eastwood Space Cowboys (2000).
Nel 2001 dimostra che, nonostante l'età, è ancora un acceso attivista politico, infatti viene arrestato durante una manifestazione della PETA per i diritti degli animali. Dopo questa disavventura, recita nel telefilm E.R. - Medici in prima linea(2001), poi in The West Wing (2004), senza dimenticare il bellissimo Angels in America (2004) dove è il medico di famiglia dell'omosessuale Al Pacino, accanto a Meryl Streep. Presente nel remake de L'altra sporca ultima meta (2005) con Burt Reynolds, accetta il ruolo di George Sibley nel telefilm cult Six Feet Under (2003-2005) e quello del cardinale Sapieha nella fiction Giovanni Paolo II (2005) con Jon Voight e Christopher Lee. Nel 2007 torna a recitare in una biografia d'artista, quella della scrittrice Jane Austen, interpretata da Anne Hathaway in Becoming Jane.
