È stato uno dei tanti bambini prodigio scoperti da Steven Spielberg. Si accoda infatti a quella lunga lista di attori che comprende: Sean Astin, Heather O'Rourke, Henry Thomas, Drew Barrymore, Jonathan Ke Quan, Christian Bale, Joseph Mazzello, Justin Chatwin fino a Shia LaBeouf. Ma disgraziatamente l'accoppiata Brolin-Spielberg si è spenta immediatamente dopo il suo film di debutto, I Goonies. E da bambino più cool del momento, si è trasformato - almeno in un primo tempo - in un semplice comprimario più adatto al piccolo che al grande schermo, come testimonia il successo del telefilm The Young Riders, dove con pizzetto e abiti western è uno dei migliori pony express della storia del tubo catodico.

Gli esordi
Figlio dell'attore James Brolin e della modella e aspirante attrice Jane Cameron Agee (morta in un incidente stradale nel 1995), decide da subito di seguire le orme paterne e materne nel mondo dello spettacolo.
A soli 14 anni, infatti, è già sul set di un film: I Goonies (1985) di Richard Donner, accanto a Sean Astin (che interpreterà suo fratello minore). Ma non è solo il suo film di debutto, è anche il suo primo film da protagonista. Il suo ruolo è quello di Brand Walsh, giovane teenager di una città costiera americana che, insieme agli amici del fratello, viene coinvolto in un'avventura all'insegna di un tesoro pirata.
La sua carriera proseguirà principalmente sul piccolo schermo con minuscole apparizioni nel tubo catodico. In particolare, apparirà in telefilm come Autostop per il cielo (1986) e 21 Jump Street (1987) accanto a Johnny Depp. Nel contempo, si iscrive alla Film Industry Workshops (dove pure aveva studiato suo padre), prendendo lezioni di recitazione da Pat George, Tony Miller, Sandra Seacat e addirittura Stella Adler.
Nel 1988, si sposa con l'attrice Alice Adair, dalla quale però divorzierà nel 1992, ma non senza essere diventato padre di due figli: Eden e Trevor. Anche suo padre divorzia da sua madre per sposare nientemeno che Barbra Streisand che sarà, a tutti gli effetti, la sua matrigna. Fra il 1989 e il 1992, interpreta il ruolo di James Butler Hickok nel telefilm The Young Riders, passando poi a qualche apparizione in altri serial come Oltre i limiti (1995).

Il periodo di pausa e i problemi coniugali
La sua filmografia si arricchisce poi di titoli come Gli Scorpioni (1994), Amare è (1996) e Amori e disastri (1996). Poi, stanco di Hollywood, si trasferisce in un ranch della California assieme ai suoi figli, dirigendo e recitando in una piccola compagnia teatrale e tornando sporadicamente al cinema per thriller come Nightwatch (1997) con Nick Nolte o per film di fantascienza come Mimic (1997), per non parlare dell'action movie Gli infiltrati (1999). La sua vita privata, invece, conosce un'altra primavera con il fidanzamento (brevissimo, dal 1999 al 2001) con l'attrice inglese Minnie Driver, ma, dopo aver recitato ne L'uomo senza ombra (2000) ed essere stato diretto da Woody Allen in Melinda e Melinda (2004), sposa l'attrice Diane Lane, con la quale comincia da subito ad avere problemi. Il 19 dicembre 2004 viene infatti arrestato per violenze domestiche.

La svolta
Rimessosi in carreggiata, l'anno seguente appare in Trappola in fondo al mare (2005) e recita accanto a Bruce Willis in Grindhouse - Planet Terror (2007) e a Susan Sarandon in In the Valley of Elah (2007). Ma non basta, il cinema di qualità lo chiama e ha il nome dei fratelli Coen che lo dirigono in No Country for Old Men (2007), senza contare la pellicola di Ridley Scott American Gangster (2007), dove affianca Denzel Washington.
Verrà ingaggiato da Oliver Stone per il biopic W. dove interpreta l'allora Presidente degli Stati Uniti George W. Bush, ma il ruolo più importante è quello del consigliere comunale Dan White in Milk (2009), di Gus Van Sant, il famoso assassino di Harvey Milk (interpretato da Sean Penn, oscar come migliore attore). Con questa interpretazione Josh viene nominato all'Oscar come migliore attore non protagonista, che però verrà dato postumo a Heath Ledger per Il Cavaliere oscuro. Oliver Stone lo rivuole con sé nella sua ultima fatica Wall Street - Il Denaro non dorme mai, dove interpreta il perfido Bretton James. Figura poi fra i protagonisti nelle attesissime pellicole di Woody Allen e di Ethan e Joel Coen, rispettivamente Incontrerai l'uomo dei tuoi sogni e Il Grinta. Diventa negli ultimi anni sempre più richiesto, tanto da trovarlo in film quali Wall Street - Il denaro non dorme mai, il remake di Old Boy firmato da Spike Lee, e Men in Black 3 di Barry Sonnenfeld. Interpreta poi il 'poliziotto contro' (accanto a Ryan Gosling) di Gangster Squad, ambientato nel mondo della malavita losangelina degli anni '40, dominato dal re della mafia Mickey Cohen (Sean Penn). Nel 2013 recita nel remake firmato da Spike Lee Oldboy. In seguito parteciperà a Vizio di forma di Paul Thomas Anderson, al film di Baltasar Kormákur Everest e a Sicario di Denis Villeneuve. Tornerà a lavorare con i fratelli Coen per Ave, Cesare!, film d'apertura della Berlinale 2016.
Diretto poi da George Clooney in Suburbicon (2017)e da Joseph Kosinski in Fire Squad - Incubo di fuoco (2017), recita in Avengers: Infinity War (2018) e nel seguito di Sicario Soldado (2018), diretto da Stefano Sollima.
Sarà poi in Avengers: Endgame (2019) e nel 2021 in Dune e Dune - Parte 2, diretto ancora una volta da Denis Villeneuve.