Figlio di un gallerista e di una insegnante d'arte, Jeremiah detto semplicemente "Jerry", nasce e cresce a New York, e più precisamente a Manhattan, con suo fratello minore, Charlie O'Connell (che diventerà un attore e un fotomodello). Fu suo cugino Robert O'Connell a spingerlo, alla sola età di 10 anni, a tentare la strada della recitazione. È così che comincia la sua lunga avventura nel mondo della pubblicità, Jerry infatti presterà il suo volto per numerosi spot pubblicitari, soprattutto quello dei biscotti. Notato da un agente, viene chiamato per partecipare al provino di un film. Un provino che supera alla grande!

L'esordio con Stand By Me
Jerry si accoda così al cast di Stand By Me - Ricordo di un'estate (1986) di Rob Reiner che aveva già al suo interno l'immortale River Phoenix, Will Wheaton e Corey Feldman, ma anche un adolescente Kiefer Sutherland e Richard Dreyfuss. Il suo ruolo è quello del ragazzino obeso Vern Tessio, impegnato con i suoi tre amici in un'escursione alla ricerca del cadavere di un ragazzo scomparso giorni prima. Il film, ispirato a un racconto di Stephen King, diventa un cult e Jerry O'Connell, la cui recitazione è perfetta, comincia ad aver ela strada spianata per la celebrità. Iscritto dai genitori alla Professional Children's School di New York City, studia recitazione nella stessa classe di Tara Reid, Macaulay Culkin, Ben Taylor e Sarah Michelle Gellar che diventerà poi la sua fidanzata.

Il successo di Il mio amico Ultraman
Dopo Stand By Me, Jerry comincia a apparire in film tv e telefilm: La pensione (1987), Un giustiziere a New York (1988), il programma tv ABC TGIF (1990), ma soprattutto il telefilm (da noi trasmesso su Italia 1) Il mio amico Ultraman (1988-1991), con Marsha Moreau, Derek McGrath e Wanda Cannon, all'interno del quale Jerry interpreta il ruolo dell'adolescente Andrew Clements che scopre di avere dei superpoteri. È così che O'Connell si fa conoscere al pubblico italiano. Ma l'attore sarà protagonista anche di un'altra longeva serie televisiva fantascientifica meno fortunata: I viaggiatori (1995-1999) con Cleavant Derricks, Kari Wuhrer, Sabrina Lloyd e John Rhys-Davies, del quale sarà anche regista e sceneggiatore.

Qualche film sbagliato
Ormai pronto per il college, O'Connell si iscrive alla New York University, dalla quale ne uscirà laureato in Film e Televisione nel 1995. L'anno successivo, recita invece accanto a Tom Cruise nello sdolcinato Jerry Maguire (1996). Bellissimo e considerato un sex symbol del piccolo schermo, lascia la Gellar e comincia ad avere dei piccoli flirt con Debra Pelletier, l'attrice Estella Warren e la cantante britannica, ex Ginger Spice, Geri Halliwell. Mariah Carey lo sceglie invece per il ruolo del suo fidanzato fedifrago nel video musicale "Heartbreaker", mentre Brian De Palma lo impone nel cast di Mission to Mars (2000) con Tim Robbins. Ma ci sono anche passi falsi, come il pessimo Kangaroo Jack - Prendi i soldi e salta (2002), storia dell'inseguimento di un canguro con dei soldi dentro la sua sacca... Un film del genere è una caduta in grande stile, ma almeno gli dà l'opportunità di lavorare con Christopher Walken!

Ancora telefilm
Si rifarà grazie al piccolo schermo con il ruolo del detective Woody Hoyt nel telefilm Crossing Jordan (2002-2007) con Jill Hennessy, Miguel Ferrer, Ravi Kapoor, Steve Valentine e Kathryn Hahn, ruolo che riprenderà anche in Las Vegas (2004-2006). Ma le apparizioni televisive non si limitano solo a questo e O'Connell recita anche in qualche episodio di Senza traccia (2004), nella serie The Screaming Cocktail Hour (2004), in Carpoolers (2004-2008), in Samantha chi? (2008) e in qualche puntata di Do Not Disturb (2008). Ma non si limita solo a questo, dietro il soggetto e la sceneggiatura della commedia Una teenager alla Casa Bianca (2004) con Michael Keaton, pellicola diretta da Forest Whitaker c'è lui, che ha occasione di mettere in pratica tutto quello che ha imparato all'università. Ritorna sul grande schermo nel 2006 con la commedia I tuoi, i miei, i nostri e si deve aspettare il 2009 per il successivo lavoro. Si tratta del poco fortunato Obsessed, con Beyoncé protagonista. Nel 2010 lavora in Piranha 3D, horror che ha avuto grande successo negli States.

Il matrimonio con Rebecca Romijn
Poi arriva il matrimonio: dopo due anni e mezzo di convivenza, sposa l'attrice Rebecca Romijn, dalla quale avrà le due gemelle Dolly Rebecca Rose e Charlie Tamara Tulip, nomi ispirati alle canzoni di Dolly Parton, della quale Rebecca è grande fan.