Ha studiato presso la Julliard School of Drama, è un giovane attore di talento in grado di interpretare una vasta gamma di personaggi.
Mackie è stato scoperto grazie alle critiche brillanti ottenute per la sua interpretazione di Tupac Shakur nel lavoro teatrale off Broadway Up Against the Wind. Subito dopo, Mackie ha debuttato in grande nel cinema impersonando il ruolo della nemesi di Eminem, Papa Doc, nel film di Curtis Hanson 8 Mile. La sua performance ha catturato l'attenzione di Spike Lee, che in seguito lo ha voluto per Sucker Free City e She Hate Me, selezionati nel 2004 per il Toronto Film Festival Masters Program. E' apparso anche nel film di Clint Eastwood vincitore del premio Oscar Million Dollar Baby, accanto a Hilary Swank, Morgan Freeman e allo stesso Eastwood; nel film di Jonathan Demme, The Manchurian Candidate, accanto a Denzel Washington e a Liev Schreiber; e nella commedia The Man – La talpa con Samuel L. Jackson.

Mackie si è guadagnato una candidatura all'IFP Spirit and Gotham Award per la sua performance nel film di Rodney Evans’ Brother to Brother, che ha vinto il premio speciale della giuria per il genere drammatico al Sundance Film Festival del 2004, e il premio per il miglior lungometraggio agli Independent Spirit Awards. Nel 2005, è apparso accanto a David Strathairn, Timothy Hutton e a Leelee Sobieski in Heavens Fall, un film indipendente presentato in anteprima all' SXSW Film Festival ad Austin nel 2006 che si basa sulla vera storia del processo agli Scottsboro Boys.
Mackie è apparso in cinque diversi film nel 2006. Oltra a We Are Marshall, è stato interprete di Half Nelson, con Ryan Gosling, un adattamento del regista Ryan Fleck del cortometraggio vincitore del Sundance Gowanus Brooklyn; del film diretto da Preston Whitmore, Crossover; del giallo di Frank E. Flowers Haven, con Orlando Bloom e Bill Paxton; e dell'adattamento per il grande schermo di Freedomland di Richard Price, con Samuel L. Jackson.
Prima di recitare per il grande schermo, Mackie ha preso parte a molti lavori teatrali on e off Broadway. Il suo debutto a Broadway è stato nei panni del nipote balbuziente, Sylvester, nella pièce di August Wilson Ma Rainey’s Black Bottom, con Whoopi Goldberg. Ha poi interpretato il ruolo principale nella moderna reinterpretazione di Regina King del dramma di Chekov Il gabbiano, e nel ruolo reso famoso da Denzel Washington 20 anni prima, nel lavoro vincitore del Pulitzer Soldier’s Play. Più di recente, Mackie ha preso parte alla produzione di August Wilson’s 20th Century al Kennedy Center con letture da ciascuna dei dieci lavori che fanno parte del ciclo di August Wilson. Mackie spera di poter tornare a calcare le scene al più presto.
Inoltre, Mackie sarà Buddy Bolden in Bolden!, un film biografico sul noto cornettista di New Orleans. Vestirà i panni di Sanborn in The Hurt Locker, un dramma di guerra ambientato in Iraq. Mackie ha cominciato a girare, nel ruolo di Tupac Shakur, Notorious, un film biografico sul rapper Notorious B.I.G diretto da George Tillman Jr., con Jamal Woolard nel ruolo principale.