Interprete intelligente e agile, dotato di notevolissima vis comica, si è rivelato particolarmente adatto per la sophisticated comedy americana moderna esordendo nel 1954 in La ragazza del secolo dopo aver lavorato per radio, tv e teatro. Dando volto e gestualità all'americano medio nevrotico e alienato nel 1961 ottenne il premio Oscar per Mister Roberts, di L. Ford e M. Le Roy, come attore non protagonista; ma i film che gli diedero la popolarità furono A qualcuno piace caldo, 1959, in cui recitava a fianco di M. Monroe e L'appartamento, 1960, entrambi di B. Wilder. Apparve inoltre in La ragazza del secolo, 1953; Una strega in paradiso, 1958; L'affittacamere, 1962; nell'interessante (e da lui ottimamente recitato) I giorni del vino e delle rose, 1963, di Blake Edwards; Irma la dolce, 1963; Sotto l'albero yum-yum e Scusa, me lo presti tuo marito?, 1964; Come uccidere vostra moglie e La grande corsa, 1965; La strana coppia (1968), Prima pagina (1974) e Buddy Buddy (1981). Giocò in maniera impeccabile la carta drammatica con Salvate la tigre (1974, Oscar da protagonista), Sindrome cinese (1979) Missing (1982) e Americani (1992).