È un attore, comico e sceneggiatore che ha partecipato alla fortunatissima commedia Una notte da leoni (The Hangover) assieme a Bradley Cooper ed Ed Helms.
Nato a Wilkesboro, in North Carolina, ha frequentato la North Carolina State University, studiando cinema e comunicazione. Nel 1992, prima di laurearsi, ha abbandonato per trasferirsi a New York. Si è ritrovato rapidamente su un palcoscenico come cabarettista, deliziando il pubblico con i suoi numeri strani e taglienti, che talvolta sfociavano nella performance art. Nel 1996, è passato alla televisione, interpretando il ruolo ricorrente di Bobby nella serie comica Boston Commons. Ha esordito al cinema nel 2001 grazie a Out Cold, a cui hanno fatto seguito diversi ruoli in Corky Romano - Agente di seconda mano (Corky Romano), Below, Bubble Boy e HeartBreakers - vizio di famiglia (Heartbreakers).
Nel 2002, Galifianakis ha presentato il suo talk show, Late World with Zach. Sempre in televisione, ha lavorato nei panni di un anatomopatologo, Davis, nel telefilm della Fox Television Tru Calling, trasmesso dal 2003 al 2005. E’ apparso spesso nel talk show notturni, tra cui il Jimmy Kimmel Live, mentre ha incarnato Frisbee in tre episodi di Reno 911!
Di recente, è stato impegnato con la tournée Comedians of Comedy assieme a Brian Posehn, Patton Oswalt e Maria Bamford. Questo gruppo ha scelto di esibirsi nei locali rock piuttosto che quelli dedicati alla comicità, dando così vita a dei programmi su Comedy Central e a un lungometraggio trasmesso da Showtime Network.
Nel 2006, è apparso nel video musicale di Fiona Apple Not About Love e ha poi pubblicato il singolo Come Over and Get It (Up in ’Dem Guts), una canzone comica rap/hip-hop/dance che comprende la voce della Apple.
Ha interpretato Alan Finger nella serie di Comedy Central Dog Bites Man ed è apparso nel programma del network The Sarah Silverman Program. Aveva un ruolo ricorrente nella serie di animazione Tom Goes to the Mayor ed è comparso in Tim and Eric Awesome Show, Great Job! per quattro episodi, nei panni del mentore disturbato Tairy Greene.
Nel marzo del 2007, è uscito un DVD comprendente il suo lavoro, Live at the Purple Onion, mentre tre mesi più tardi Kanye West lo ha voluto per lavorare al video di Can’t Tell Me Nothing, pubblicato sul sito personale del cantante dopo essere stato girato alla fattoria di Galifianakis in North Carolina.
E’ recentemente apparso nell’acclamata pellicola di Sean Penn Into the wild - Nelle terre selvagge (Into the Wild), a cui hanno fatto seguito Visioneers, Notte brava a Las Vegas (What Happens in Vegas), Gigantic, Rogue’s Gallery, Little Fish, Strange Pond e Youth in Revolt. Attualmente, si divide tra la sua residenza di Venice, in California, e le colline del North Carolina, in una fattoria di 60 acri che spera di trasformare in un rifugio per scrivere.