Avant de devenir l’un des plus grands entrepreneurs d’Allemagne avec de nombreux magasins à son nom, Josef Neckermann fut un cavalier émérite qui sera deux fois champion olympique par équipes en 64 et 68. Il s’impose au Japon et au Mexique avec Reiner Klimke parmi ses partenaires. Lors des épreuves individuelles, il aura moins de succès, en dépit d’une médaille d’argent à Mexico et une médaille de bronze à Munich, quatre ans plus tard, l’année où il fête ses soixante ans.