Nasce a Fenyang, una cittadina della provincia settentrionale di Shanxi solcata dal fiume giallo. Studia pittura, si interessa di letteratura e pubblica il suo primo romanzo, appena ventenne, nel 1991. Due anni dopo entra all'accademia di cinema di Pechino, dove fonda il gruppo cinematografico sperimentale giovanile, la prima organizzazione indipendente del genere in Cina. Con il gruppo realizza due video che ricevono, entrambi, un premio. Dopo il diploma dell'accademia, nel 1997, gira il primo lungometraggio, Xiaowu (1997). Il film vince un premio al Festival di Berlino, ma il governo cinese lo censura in patria perché forse troppo "crudo" nei confronti della Cina contemporanea. Il film narra il triste percorso ladruncolo, il suo distacco dalla famiglia, dalla ragazza e dagli amici verso un epilogo triste e umiliante. Inizia quindi una collaborazione con Takeshi Kitano che porta al suo secondo lungometraggio, Zhantaii (2000). Il film vince molti premi (a Venezia, per esempio) perché affronta con coraggio la Cina degli anni '80, periodo di grandi trasformazioni, come la fine dell'ideologia maoista, l'apertura alla cultura occidentale, l'introduzione del modello capitalistico in una versione riveduta e corretta. Zhantai attraversa questi cambiamenti filmando le vicende di una compagnia culturale che, venute meno le sovvenzioni statali, decide di portare in giro per la Cina uno spettacolo ispirato ai valori e temi della cultura occidentale.
Il cinema europeo ha molto influenzato il regista, in particolare la Nouvelle Vague francese (Godard, Bresson) e il Neorealismo italiano (De Sica, Pasolini).
Nel 2006 con Still Life. Zhang-ke vince il Leone d'oro al Festival del Cinema di Venezia. Dopo la docufiction sui cambiamenti della Cina odierna 24 City (2008), torna nel 2013 con Il tocco del peccato, presentato con successo al Festival di Cannes.
Nel 2015 torna dietro la macchina da presa con Al di là delle montagne, con cui concorre al Festival di Cannes 2015 e si aggiudica il premio per la miglior sceneggiatura agli Asian Film Award 2016.
Il cinema di Hong Kong è spesso rimasto come sottotesto, presente ma quasi invisibile, nei film di Jia Zhang-ke. Talora - tramite il lavoro del suo direttore di fotografia hongkonghese Yu Li-kwai, autore di pregevoli e poco conosciuti lavori come regista - il sottotesto emerge in maniera compiuta, per divenire qualcosa di più. Fino a I figli del fiume giallo (in originale Jiang hu er nü, nel titolo internazionale Ash is the Purest White), in cui l'influenza diviene omaggio esplicito, voluto e conclamato
Sublime noir contagiato progressivamente dallo slancio fluido di un mèlo, I figli del fiume giallo, come ogni film di Jia Zhang-ke porta le stimmate delle evoluzioni della Cina nel corso degli anni. La sua storia, compresa tra il 2001 e i primi giorni del 2018, si svolge a Shanxi, dove le miniere chiudono destabilizzando e delocalizzando i suoi abitanti attorno alla più grande centrale idroelettrica del mondo sulle rive del fiume Yang-Tze
