Tra il 1977 e il 1981, ha studiato composizione e pianoforte al Royal Academy of Music di Londra. Da allora, ha fatto base a Glasgow dove ha scritto le musiche di numerosi film vincendo diversi premi. Ha composto opere classiche e musiche per il teatro ed ha registrato diversi album da solista
La colonna sonora di Armstrong per il pionieristico musical di Baz Luhrmann Moulin Rouge! gli ha fatto vincere il premio AFI come Miglior Compositore dell'Anno, un Golden Globe come autore della Migliore Colonna Sonora Originale dell'Anno e un premio BAFTA per i Risultati Conseguiti come Compositore di Film per il Cinema. Armstrong ha inoltre ricevuto l'Ivor Novello Award per la Migliore Colonna Sonora Originale del film Un americano tranquillo, di Phillip Noyce. Tra gli altri film che hanno dato lustro alla sua carriera di compositore figura World Trade Center, il film drammatico di Oliver Stone; il bio-pic vincitore di un Oscar Ray, per il quale ha ricevuto un Grammy Award per la Migliore Colonna Sonora Originale, e la commedia di fama mondiale Love Actually - L'amore davvero. Ha inoltre composto le musiche di Magdalene, Kiss of the Dragon, Il collezionista di ossa, In ostaggio, Plunkett & Macleane, Best Laid Plans e Orphans. Le musiche realizzate per il film di Baz Luhrmann, tratto dalla commedia di William Shakespeare Romeo + Giulietta sono state premiate con un premio BAFTA per i Risultati Conseguiti come Compositore di Film per il Cinema e con un Ivor Novello Award. Di recente, ha composto le musiche del film di Shekhar Kapur Elizabeth: The Golden Age.
Ha inoltre collaborato con diversi artisti, inclusi i berlinesi AGF e Vladislav Delay - artisti della cultura laptop - con i quali ha registrato ed eseguito l'album The Dolls. Ha lavorato con molti artisti di rilievo, inclusi gli U2, Madonna, Luciano Pavarotti e i Massive Attack.
Negli ultimi dieci anni, ha realizzato due album da solista con l'etichetta dei Massive Attack, Melankolic, il primo intitolato Piano Works, distribuito dalla Sanctuary nel 2004, il secondo Film Works distribuito dalla Universal nel 2005.
Armstrong ha composto opere per la Royal Scottish National Orchestra, il London Sinfonietta, gli Hebrides Ensemble e gli Scottish Ensemble. Nel 2006, ha collaborato con gli artisti Dalziel e Scullion alla riapertura della Kelvingrove Art Gallery di Glasgow, dove è stata allestita una mostra dei due artisti intitolata Once. Nel 2007, ha debuttato con la sua prima opera nel contesto del Five:15-Operas Made in Scotland della Scottish Opera, propondendo un'opera di 15 minuti il cui libretto è stato realizzato da Ian Rankin.
Nel 2007, ha registrato il suo primo album di musica classica per la EMI Classics francese, in collaborazone con la BBC Symphony Orchestra. L'album, la cui uscita è prevista entro il 2008, include un concerto per violino per Clio Gould. Armstrong continua inoltre a insegnare come ospite del Royal Academy of Music di Londra.