È originario di Pittsburgh e si esibisce al Pittsburgh Public Theater da più di 14 anni. Dopo aver debuttato nello spettacolo inaugurale con Qualcuno volò sul
nido del cuculo, sullo stesso palcoscenico si è esibito anche in A Moon for the Misbegotten, Macbeth, Vikings, Cobb, The Steward of Christendom, Long Day’s Journey into Night, The Weir, You Can’t Take It With You e The Drawer Boy. Passando a Broadway, Atkins ha interpretato The Changing Room e The Front Page mentre i palcoscenici di Off-Broadway lo hanno visto tra i protagonisti di Whistle in the Dark e Long Day’s Journey into Night.
Tra le numerose apparizioni televisive dell’attore ricordiamo i ruoli in The Rockford Files, Lou Grant, Law & Order: Criminal Intent, M*A*S*H, Homicide, Oz e nei programmi della PBS Pennsylvania Lynch e Lemon Sky.
Per quanto riguarda il cinema, Atkins ha interpretato tra gli altri Fuga DA New York, Fog, Creepshow, Arma Letale, Bob Roberts, Impatto Imminente e Dimensione Terrore.