Après des études secondaires à Lyon au lycée Ampère puis à Sceaux au lycée Lakanal, Jean Marrou intègre l'École nationale d'Horticulture de Versailles (Yvelines). En 1956 il est recruté par le Centre technique interprofessionnel des fruits et légumes (CTIFL) dans l'équipe des ingénieurs de recherche et de développement en poste au centre de l'Institut national pour la recherche agronomique (INRA) à Versailles (Yvelines).
Il intègre par la suite l'INRA en tant qu'agent scientifique (1957-1961), chargé de recherches (1961-1967) puis directeur de recherches (1967-1996). Ses activités de chercheur et ses travaux de laboratoire l'amène également à être nommé directeur de la sation pathologie végétale du centre d'Avignon (1968), puis administrateur du Centre de recherche agronomiques du Sud-Est (1975).
Jean Marrou termine sa carrière en tant que conseiller technique au ministère de l'Agriculture d'abord à la direction de la production et des échanges (1988-1996) puis à la direction générale de l'alimentation (1996-1997).