Nato nel 1982 in Inghilterra, Joe Anderson frequenta il Richmond upon Thames College e la Weber Douglas Academy of Dramatic Art di Londra. Figlio di attori teatrali (il padre è Miles Anderson) dopo aver vissuto in una barca per un certo tempo inizia una carriera attoriale di discreto successo, scegliendo ruoli di supporto in pellicole concettualmente originali e interessanti, cosa che ne fa un giovane e promettente talento. Partecipa al Chichester Festival Theatre per debuttare sul grande schermo nel 2004 in Creep. Appare in alcuni episodi delle serie televisive Midsomer Murder e Afterlife mentre nel 2005 è Luke in Silence Becomes You.

Una carriera agli esordi
Nel 2006 ottiene il primo ruolo che gli apre una più vasta platea, si tratta d'interpretare il nipote di Beethoven in Io e Beethoven di Agniezska Holland. Nel 2007 appare invece in Across the universe, di Julie Taymor nei panni di Max, il teenager spedito nella guerra del Vietnam. Nello stesso anno interpreta il bassista dei Joy Division Peter Hook nel film di Anton Corbijn, Control. Accanto a Anne Hathaway interpreterà Henry Austen in Becoming Jane, pellicola su Jane Austen. Nel 2008 è Donnie in High Life e Elliot in The 27 Club. Interpreta inoltre Mathias in Rovine, il ragazzo tedesco che due giovani coppie incontrano in Messico, e che finirà per portare l'intero gruppo alla ricerca del fratello in cima a una piramide maya maledetta. Se l'ultima interpretazione stona in una carriera breve ma rispettabile, il personaggio che Joe Anderson interpreta in Rovine si distacca comunque dal resto del gruppo rendendosi interessante.
Lo troviamo sempre più spesso in film di ogni genere, dalla commedia romantica (Qualcosa di speciale) al dramma (Amelia) fino ad arrivare al catastrofico La città verrà distrutta all'alba (2010). Nel 2012 recita al fianco di Liam Neeson nel film di Joe Carnahan ambientato in Alaska The Grey oltre che nell'ultimo capitolo della saga vampiresca The Twilight Saga: Breaking Dawn - Parte 2.