John Mogensen blev født ind i en arbejderfamilie på Amager i 1928, og har i sin ungdom mange forskellige jobs, som dog ikke er prangende. Allerede som barn havde han et godt øre for musikken – og han bliver medlem Københavns Drengekor.
John Mogensen bliver i 1950´erne leder af popgruppen Four Jacks. Gruppen blev opløst i 1963, og John Mogensen fortsætter som pianist på Oslo-bådene, til familiefester og på mindre værtshuse.
Han skrev også melodier til andre, bl.a. "Du ser mig når jeg kommer" til Grethe Sønck, og et par melodier til Jørgen Ingemann. Det blev i 1964 til et enkelt forsøg med en single, der således markerer John Mogensens formelle debut som solist. Med "Der er noget galt i Danmark" (1971) tog en stor solokarriere for alvor fart, via en kontrakt med Jørgen Kleinert. Stribevis af indspilninger i sin helt egen pop/country-stil gjorde lykke hos publikum op igennem 70'erne.
Efter sit sologennembrud ender sangeren med at blive dansktoppens ukronede konge og denne succes følger han stort set frem til den alt for tidlige død.
John Mogensen var en mand af en svunden tid – en mand der greb chancerne – en mand, der skrev sig lige ind i hjertet på danskerne.