Debutta come attore teatrale a Londra, nel 1886, a soli 18 anni, poi cinque anni dopo partecipa alla tournée americana di una compagnia londinese e ottiene un successo tale da doversi fermare negli Usa, dove per circa venti anni calca le scene di Broadway nei panni di personaggi storici (Voltaire e Disraeli, per esempio). Al suo fianco la moglie Florence Arliss, attrice che aveva sposato il 16 settembre 1899 e che apparve in molti dei film dove lui fu protagonista. Fu lei a renderlo padre dello sceneggiatore Leslie Arliss.
L'esordio cinematografico avviene quando lui è ormai vecchio, ma il cinema è ancora bambino! Per essere più sicuro in questa nuova avventura, preferisce trasferire sul grande schermo i testi con cui si è affermato a teatro, passando dal film debutto The Devil (1921) di James Young al suo più grande successo Disraeli (1929) di Alfred E. Green, biografia del celebre statista inglese Benjamin Disraeli. L'anno successivo, la coppia Green e Arliss si ricongiunge per La dea verde (1930) avventura ambientata in India, dove un marajah tiene prigionieri alcuni inglesi. Curiosamente entrambe le sue interpretazioni saranno nominate all'Oscar come miglior attore protagonista, ma solo perché a quei tempi la famosa statuetta d'oro era un premio che prendeva in esame due anni di cinematografia americana. Arliss stravinse per Disraeli, diventando il primo attore inglese a vincere l'Academy Award. Eppure l'attore neanche si presentò alla cerimonia al Capitol Theatre di Los Angeles, preferendo una vacanza in Francia, tanto è vero che il suo Oscar venne ritirato da Darryll Zanuck, responsabile della Warner, al suo posto. Non sarà nominato mai più.