1915. december 27-én született Cegléden, itt ismerkedett meg a labdarúgás alapjaival, 1930-ig a Cegléd csapatában játszott. A Salgótarjáni Bányász TC-ben vált élvonalbeli játékossá, ifjúsági válogatottá, és nyert főiskolai világbajnokságot. 1936-tól tizenegy éven át az Újpesti Torna Egylet csapatában játszott, a fiatal tehetségnek az UTE nem kis vihart keltve még az 1936-os berlini olimpia előtt profiszerződést ajánlott, így az ötkarikás játékokon nem is vett részt. Újpesten négyszeres bajnok (1939, 1945, 1946, 1947), Közép-európai Kupa-győztes (1939), ötszörös gólkirály (ez klubrekord) és kétszeres európai aranycipős lett. Nála több gólt csak Szusza Ferenc lőtt újpesti játékosként, s 1946-ig mindössze egyetlen idény volt, amikor nem szerzett legalább 25 gólt - akkor is csak azért, mert 1939-ben eltörte a lábát és fél évet ki kellett hagynia.

A címeres mezt 1936-ban húzta először magára, a válogatottban főleg centerként és balösszekötőként játszott, de a csatársor valamennyi belső posztján remek teljesítményt nyújtott. Az 1938-as franciaországi világbajnokságon az ezüstérmes csapat egyik legeredményesebb tagja volt, négy meccsen öt gólt szerzett, Sárosi Györggyel és az olasz Silvio Piolával holtversenyben a második helyen végzett a góllövőlistán. A magyarok közül egyedüliként ő játszott az Európa-válogatottban az angol szövetség megalakulásának 75. évfordulója alkalmából rendezett mérkőzésen (a gálára meghívták Sárosit és Bíró Sándort is, de ők nem kaptak kiutazási engedélyt). A válogatottban utoljára 1947. augusztus 20-án játszott, csereként az Albánia ellen 3-0-ra megnyert mérkőzésen.

1947 őszén ő volt az utolsó, akinek a szövetség engedélyezte, hogy külföldre szerződhessen. Három éven át Olaszországban, az AS Roma (1947-1949) és az Anconitana (1949-1950) csapatában játszott, egy év edzősködés után, 1951-ben a kolumbiai El Deportivo Samarios Santa Marta csapatában fejezte be aktív pályafutását, "Julio", ahogy ott hívták, játékos-edzőként két szezonban 35 meccsen 23 alkalommal volt eredményes.

Visszavonulása után edzőként dolgozott Olaszországban, Görögországban és Cipruson, ahová egykori újpesti játékostársa, Künstler József hívta. Az általa irányított ciprusi csapat bajnok (1954), illetve kupagyőztes (1976) lett, 1958-59-ben a ciprusi válogatott szövetségi kapitányi tisztét is betöltötte és élete végéig az ottani szövetség tanácsadója maradt.

Az Ábel becenévre hallgató Zsengellér nem volt erős fizikumú játékos, ha lehetett, kerülte a test-test elleni játékot, társait rendre jól hozta helyzetbe. Kimagasló technikai, taktikai érzékkel, játékintelligenciával rendelkezett, félelmetesen cselezett, villámgyors kiugrásairól volt híres. Gólképessége is a legnagyobbak közé emelte, a válogatottban 39 mérkőzésen 32, három ország 394 élvonalbeli mérkőzésén 416 alkalommal talált az ellenfelek hálójába. A labdarúgás statisztikájával és történetével foglalkozó szervezet (IFFHS) 2012-ben nyolcadik helyre sorolta minden idők legjobb góllövői közül, az első osztályú nemzeti bajnokságokban lőtt gólok számát figyelembe véve.

Utolsó éveiben Cipruson élt görög feleségével, Nicosiában hunyt el 1999. március 29-én, ő távozott utolsóként az 1938-as vb-ezüstérmes nemzeti tizenegyből. Földi maradványait végakarata szerint 2013-ban Cegléden helyezték örök nyugalomra, ahol emléktermét is berendezték a város sportmúzeumában, ugyancsak 2013-ban Cegléd posztumusz díszpolgára lett.

Születésének centenáriumán, 2015-ben Újpesten tornacsarnokot neveztek el róla, életéről könyv jelent meg Zsengellér Gyula, a futball Paganinije címmel. Ugyancsak 2015-ben a Magyar Posta bélyeget bocsátott ki az Újpesti Torna Egylet alapításának 130. évfordulóján, a bélyeghez tartozó borítékon az ő portréja is szerepel. 2023-ban emléktáblát avattak tiszteletére az újpesti Szusza Ferenc Stadionnál.

Elhagyta az országot, Cipruson hunyt el minden idők egyik legjobb magyar csatára