Greaves nastřílel v letech 1961-1971 za Tottenham 266 gólů a jeho 37 branek ze sezony 1962/63 je stále klubovým rekordem. Kariéru zahájil v Chelsea, za kterou zaznamenal dalších 124 gólů. Hrál také za West Ham a krátce za AC Milán. Jeho 357 branek v nejvyšší anglické soutěži je i padesát let po konci jeho kariéry v roce 1971 nepřekonaným rekordem.
S Tottenhamem Greaves vyhrál dvakrát Anglický pohár a v roce 1963 také evropský Pohár vítězů poháru.
V anglické reprezentaci nastoupil k 57 zápasům a nastřílel 44 gólů. V historické tabulce jsou před ním pouze další hvězdy Wayne Rooney, Bobby Charlton a Gary Lineker.
Na domácím mistrovství světa v roce 1966 odehrál Greaves tři zápasy v základní skupině, než se zranil. V sestavě ho nahradil Geoff Hurst, který ve vítězném finále (4:2) proti tehdejšímu západnímu Německu vstřelil hattrick.
Greaves tehdy nedostal zlatou medaili, která se rozdávala jen 11 hráčům, kteří nastoupili k finále. Dodatečně obdržel cenný kov v roce 2009.
"Jimmyho Greavese milovali všichni, kdo milovali fotbal, bez ohledu na klubovou příslušnost," uvedl trenér anglické reprezentace Gareth Southgate, jehož svěřenci si Greavesovu památku připomenou při říjnovém kvalifikačním zápase proti Maďarsku. Dnešní ligový zápas Tottenhamu a Chelsea začne na jeho počest minutou ticha.