Nato Ian Holm Cuthbert da James Harvey Cuthbert, psichiatra di una clinica nell'Essex, e da Jean Wilson, infermiera nello stesso istituto. Vive i suoi primi anni nel luogo di lavoro del padre e impara sulla sua pelle a conoscere e comprendere la diversità, le possibili altre personalità. Folgorato dalla visione de I miserabili, a sette anni decide di diventare attore.
Trasferitosi nel frattempo a Londra con la famiglia, Holm a diciannove anni è già laureato della Royal Shakespeare Company. Studia e recita in lungo e in largo il repertorio del Grande Bardo. Nel 1959, il partner Laurence Olivier lo ferisce a un dito con una spada, durante la messinscena di un duello.
Fedele al motto "La recitazione? La cosa più importante nella faccia sono gli occhi; se riesci a farli parlare sei già a metà strada", nel 1965 esordisce sul piccolo schermo della televisione con la stessa veemenza fisica che riversa nei suoi ruoli in palcoscenico. Inizia a raccogliere premi e consensi di rilievo, come il Tony Award quale miglior attore protagonista.
Nel 1970 abbandona definitivamente il teatro e segue la via del cinema e della televisione, ma continuerà spesso a interpretare figure storiche e classiche. Nel 1976 è Re Giovanni nel dolente Robin e Marian, a fianco di Sean Connery e Audrey Hepburn, e nel 1981 è nientemeno che Napoleone ne I banditi del tempodel visionario Terry Gilliam. Tuttavia, in mezzo sta il suo primo grande successo, che arriva nel 1979: interpreta l'androide in Alien di Ridley Scott.
L'anno precedente, in un memorabile I miserabili televisivo, aveva interpretato il classico personaggio di Thenardier. Di tre anni più tardi, è il successo di Momenti di gloria, in cui interpreta Sam Mussabili e ottiene la candidatura al Premio Oscar come miglior attore non protagonista.
Diventa faccia indispensabile del cinema americano e inglese degli anni Ottanta (nel 1984 è in Greystoke, con Christopher Lambert, icona del cinema d'azione degli Eighties) e Novanta, e recita per Gilliam, Cronenberg, Allen, Branagh, Soderbergh.
Sia che interpreti, come più spesso accade, ruoli di contorno sia che gli si affidino parti più corpose (il dolente procuratore protagonista de Il dolce domani di Atom Egoyan), sia che accetti produzioni indipendenti sia che venga coinvolto in blockbuster miliardari (come nel caso de Il signore degli anellidi Peter Jackson, in cui riveste camaleonticamente il ruolo di Bilbo Baggins), il volto di Ian Holm sono appunto i suoi occhi, testimoni vigili di un professionismo raro e prezioso. Accetta anche parti in film minori per non dire scadenti (è il caso di alcuni thriller quasi d'autore, come Incognito di John Badham), ma sa uscirne sempre a testa alta.
Lavora con esordienti e con maestri, traendone in entrambi i casi giovinezza creativa: è Sir William Gull nell'adattamento cinematografico (a opera dei fratelli Albert e Allen Hughes) del complesso fumettoFrom Hell di Alan Moore, trasposizione psicanalitica della storia di Jack lo Squartatore. Con lo Zach Braff di Scrubs, prende parte al progetto fieramente indipendente di Garden State, mentre con Scorsese è nel cast di The Aviator e con Andrew Niccol in quello di Lord of War, ambizioso ritratto di un mercenario della guerra senza scrupoli.
Presta la sua intensa voce, in originale ovviamente, per una trasposizione della celebre Fattoria degli animali orwelliana e per l'ennesimo gioiello Pixar, Ratatouille (2007).
Nel 1990 è nel frattempo rientrato a teatro, sempre per interpretare Shakespeare ("Re Lear"), e conquista un Olivier Award. Nel 1998 la Regina Elisabetta II lo incorona "Sir" per meriti artistici.
Torna a lavorare con Peter Jackson nel 2012, quando interpreta ancora una volta Bilbo Baggins per il prequel Lo Hobbit - Un viaggio inaspettato.
L'attore è morto il 19 giugno 2020 a Londra, all'età di 88 anni.