Cresciuto nel Palmeiras (dove fu soprannominato Mazzola per la grande somiglianza che aveva con Valentino Mazzola, capitano del Grande Torino del secondo dopoguerra) esplose non ancora ventenne nella nazionale brasiliana che vinse i campionati del mondo del 1958 in Svezia, segnando due reti in tre partite. Acquistato dal Milan, confermò anche in Italia le sue doti di cannoniere. In sette stagioni al Milan, vinse due scudetti (1958/59 e 1961/62) ed una Coppa dei Campioni (1962/63) realizzando, in quella edizione del torneo, ben 14 reti, record della competizione. Nella partita con l'Union Luxembourg, vinta per 8-0, segnò ben cinque reti, record tuttora imbattuto e che divide con altri otto atleti. Lasciato il Milan, giocò per sette anni a Napoli, dove segnò 71 reti in campionato, 11 in coppa italia e 15 nelle competizioni europee (5 in Coppa UEFA, 1 in Mitropa Cup, 6 in Coppa delle Alpi, 3 nel Torneo Anglo-italiano). Alla fine del 1972 approdò, insieme a Dino Zoff alla Juventus dove, nonostante l'età non più verdissima, vinse da protagonista due scudetti nelle stagioni 1972/73 e 1974/75, risultando spesso risolutivo pur partendo dalla panchina. In particolare si ricorda il gol segnato in Juventus-Napoli del campionato 1974/75: la classifica vedeva la Juventus prima ed il Napoli secondo a due punti ed entrando a pochi minuti dalla fine, decise la sfida segnando il gol del definitivo due uno, rete che consentì alla Juventus di staccare definitivamente il Napoli e poi vincere il campionato.Pochi giorni dopo la partita, su un cancello di accesso dello Stadio San Paolo di Napoli apparve la scritta: José core 'ngrato, ricordando i trascorsi napoletani dell'attaccante.Chiuse la carriera indossando la maglia del Chiasso e del FC Mendrisiostar (oggi FC Mendrisio-Stabio) nel campionato svizzero. Complessivamente, nella sua carriera italiana, ha segnato 216 reti in 459 gare di campionato disputate, quarto assoluto per realizzazioni (dopo Piola, Gunnar Nordahl e Meazza) e primo fra i viventi, nonché primo per presenze fra i calciatori non nati in Italia. Ha vinto la classifica marcatori a pari merito con Aurelio Milani, nel campionato 1961/1962.Ha la cittadinanza italiana in quanto nipote di emigrati italiani in Brasile.Debuttò con la nazionale brasiliana nel 1957, giocando complessivamente 8 gare. Ha realizzato 4 reti, due delle quali nella gara d'esordio ai mondiali di Svezia 1958 Brasile-Austria 3-0.Oltre alla maglia della nazionale di calcio brasiliana ha indossato quella della Nazionale italiana come oriundo, realizzando cinque reti in sei gare disputate e partecipando ai Mondiali del 1962 in Cile. In seguito (durante la telecronaca di Juventus-Piacenza stagione 2002-2003) dichiarò di avere fatto un grosso errore a giocare con due nazionali diverse in quanto se avesse continuato a giocare con il Brasile avrebbe vinto altri due Mondiali.
A partire dagli anni '80 lavora come commentatore televisivo ed analista, prima con TMC, poi con TELE+ e ora con Sky Sport. Dal 2001 al 2006, ogni sabato pomeriggio, dalle 13 alle 15, ha condotto sull'emittente radiofonica RTL 102.5 con Fabio Santini il programma "Mai visto alla radio", e poi per altri 2 anni la trasmissione "Cuore e batticuore" in coppia con Valeria Benatti. Recentemente ha prestato la sua voce, insieme a quella di Pierluigi Pardo, per le telecronache dei videogiochi PES 2009, PES 2010 e PES 2011. Nel 2009, in collaborazione sempre con Pierluigi Pardo, ha pubblicato il libro "Incredibile amici!" (il cui titolo è un riferimento ad un suo tormentone ricorrente durante le telecronache). Nel 2011 presta la sua voce a Luiz nel film d'animazione Rio.