Cresciuto in una famiglia benestanta, madre giudice e padre procuratore distrettuale, Connick sviluppa a soli tre anni una grande passione per la musica. A dieci anni comincia a suonare con una jazz band locale, si esibisce con la New Orleans Simphony Orchestra e duetta con Eubie Blake alla Royal Orleans Esplanade Lounge di New Orleans suonando "I'm Just Wild About Harry". L'esibizione viene registrata e inserita in un documentario giapponese chiamato Jazz Around the World.
Dopo il diploma si trasferisce a New York per studiare al Hunter College e alla Manhattan School of Music, dove viene notato da un discografico della Columbia Records che gli offre un contratto per incidere un album.
La sua reputazione cresce moltissimo nell'ambiente, tanto che il regista Rob Reiner gli affida la colonna sonora di Harry ti presento Sally. Il successo è enorme e Connick si aggiudica il doppio disco di platino e il suo primo Grammy Award per la migliore voce jazz maschile.
L'esperienza nel cinema continua, stavolta come attore. Debutta nel 1989 nel film Memphis Belle nel ruolo del sergente Clay Busby. Da allora porta avanti parallelamente le carriere di musicista e attore.
Nel 1991 partecipa alla colonna sonora di Il padrino - Parte terza, ottenendo nomination per l' Oscar e per il Golden Globe. Nello stesso anno esce il suo nuovo disco "Blue light, Red Light" e recita nel film diretto da Jodie Foster Il mio piccolo genio. Nel 1994 Connick pubblica un nuovo album, "She", e ottiene un grandissimo successo con la canzone "(I Could Only) Whisper Your Name", colonna sonora di The Mask con Jim Carey. Nel 1996 ancora due successi, l'albun "Star Turtle" e il film Independence Day.
L'anno successivo mette in piedi un tour negli Stati Uniti e in Europa con un'orchestra sinfonica, durante il quale suona anche a Oslo al Concerto annuale per celebrare il Premio Nobel per la Pace.
Continua anche la sua attività cinematografica e nel '98 recita accanto a Sandra Bullock nel film Ricominciare a vivere di Forest Whitaker.
Il 2001 è un altro anno interessante per Connick. Partecipa al film tv South Pacific con Glenn Close, al film Mickey su sceneggiatura di John Grisham e esce con due album "Songs I heard" e "30". Nel 2002 entra nel cast della serie tv Will e Grace.
Nel frattempo tra il 2003 e il 2005 esce con altri due album, gira l'America, l'Australia e l'Asia in tour e partecipa a diversi programmi tv. Nel 2006 si esibisce a Broadway con il musical "The Pajama Game" e nel 2007 recita nel film P.S. I Love You. Nel frattempo continua a sfornare album ("Chanson du Vieux Carré", "Oh, My NOLA", "Your song")e ad accumulare nomination ai Grammy. Nel 2009 recita accanto a Renee Zellweger nel film New in Town, torna a Broadway con "On a clear day you can see forever" e nel 2010 comincia una collaborazione con il programma "American Idol", che dura tutt'oggi. Nel 2011 e nel 2014 è il Dottor Clay Haskett nel film L'incredibile storia di Winter il delfino e nel suo sequel L'incredibile storia di Winter il delfino 2