Ha scritto (da solo o in collaborazione con altri) Billy Madison, Un tipo imprevedibile (Happy Gilmore), Prima o poi me lo sposo (The Wedding Singer), Waterboy (The Waterboy), Big Daddy - un papà speciale (Big Daddy), Little Nicky
- Un diavolo a Manhattan (Little Nicky) e Mr. Deeds. E' stato produttore esecutivo dei film Cambia la tua vita con un click (Click), Terapia d'urto (Anger Management) e L'altra sporca ultima meta (The Longest Yard).
Dal 1994 al 1999, Herlihy è stato sceneggiatore, responsabile degli sceneggiatori e infine produttore del celebre varietà comico Saturday Night Live, che gli ha permesso di ottenere una candidatura agli Emmy Award.
Nel 2006, Herlihy, un ex avvocato, ha ricevuto la nomination ai Tony Award per la versione musical di Broadway di Prima o poi me lo sposo (The Wedding Singer), da lui anche cosceneggiata.
