Conosciuto maggiormente in America che non su scala mondiale Joe Don Baker ha iniziato la sua carriera nel cinema con una piccola parte nella pellicola Nick Mano Fredda (1967), ma si è fatto notare interpretando il fratello minore di Steve McQueen ne L'ultimo Buscadero (1972). L'anno successivo viene scelto per il ruolo da protagonista in Un duro per la legge (1973) che nel 2004 viene riportato sul grande schermo con il titolo di A testa alta, con The Rock. All'attore viene proposto un piccolo cameo nel remake, ma rifiuta. Fino al 1978 Joe Don Baker compare in pellicole di minore importanza, finché non ottiene la parte del detective Earl Eischied nel film per la tv To Kill a Cop (1978) che lo porta successivamente a vestire gli stessi panni nella serie tv di breve durata Eischied (1979). A partire dalla metà degli anni '80 dimostra di sapersi giostrare con ruoli diversi da quello di "razzista ignorante", pur mantenendo qualche parte di poliziotto corrotto: nella commedia Fletch - Un colpo da prima pagina (1985) è un capo di polizia coinvolto in un traffico losco, in 007 Zona Pericolo (1987) è un generale megalomane, in Mars Attacks! (1996) è un appassionato di armi, in 007 Goldeneye (1995) e 007 il domani non muore mai (1997) è l'agente segreto Jack Wade e nel più recente remake del telefilm Hazzard (2005) è il governatore Jim Applewhite.