Conosciuto da fan di tutte le generazioni come il frenetico fuggitivo e superstite di una comunità infestata da alieni residenti in baccelli che si è fiondato su un'autostrada affollata urlando "Sono qui! Sono qui! Tu sei il prossimo!" nel classico di fantascienza L'Invasione degli ultracorpi ( Invasion of the Body Snatchers) del 1956. McCarthy è molto legato a questo film che ha acquisito sempre più consensi e approvazioni dalla sua uscita, fino ad arrivare a un momento di tale magnificenza da riportarlo sullo schermo. (Nel 1978 con il remake di Philip Kaufman, in cui l'attore ha avuto un ruolo primario considerato come un omaggio all'originale). Ma la sua carriera iniziò molto prima. McCarthy è stato un attore molto attivo sin dal suo esordio a Broadway nel 1938 in Abe Lincoln in Illinois. Fratello minore della famosa scrittrice Mary McCarthy, ha interpretato un militare della Unites States Air Force durante la seconda guerra mondiale nello spetatcolo Winged Victory e successivamente ha riportato il suo stesso personaggio sul grande schermo con l'omonimo adattamento cinematografico. Ma McCarthy riuscì a catturare maggiore attenzione con quello che viene considerato il suo vero debutto da attore nel 1951 con il ruolo del Biff, figlio deluso del classico Morte di un commesso viaggiatore (Death of a Salesman) il cui adattamento per il grande schermo è stato realizzato da Arthur Miller e con cui McCarthty ha ricevuto una nomination agli Oscar come miglior attore non protagonista. La successiva carriera cinematografica lo vede anche sposato con Marilyn Monroe in Gli Sposi (The Misfits), aiutante di Henry Fonda nella sua campagna elettorale del film The Best Man, magnate del roller derby nel film La Bomba di Kansas City (Kansas City Bomber), e un viscido lobbista in Il distinto gentiluomo (The Distinguished Gentlemen).
Veterano del palcoscenico, McCarthy torna torna spesso a recitare a Broadway nel corso della sua carriera, specialmente nel ruolo di Jerry in La ragazza del quartiere (Two for the Seesaw) e di Van Ackerman in Tempesta su Washington (Advise and Consent). Ha inoltre riscontrato un trionfo eccezionale nel ruolo del presidente Harry S Truman nel one-man show Give 'Em Hell, Harry! In questi ultimi anni il regista Joe Dante, suo fan di vecchia data, ha scritturato McCarthy per ruoli vivaci in molti dei suoi film, tra cui L'ululato (The Bowling), Ai confini della realtà (Twilight Zone-The Movie), Salto nel buio (Innerspace), e Matinée.
