Jesienią 1923 roku wrócił do Lipska. Grundmann nie chciał już przejąć interesu ojca, który kilka lat później w czasie kryzysu gospodarczego zbankrutował. Jego zainteresowania skierowały się raczej ku późnośredniowiecznemu światu duchowemu. Pobudzony przez Waltera Goetza i Johanna Kühna zaczął zajmować się religijnymi ideałami spirytualistycznych pobożnych 14 i 15 stulecia. 8 marca 1926 roku doktoryzował się u Goetza w Lipsku pracą teologiczno-hstoryczną na temat uczonego Joachima z Fiore pt. Summa cum laudeHerbert Grundmann: Studien über Joachim von Floris (= Beiträge zur Kulturgeschichte des Mittelalters und der Renaissance. Tom 32, ZDB-ID 526676-2). Teubner, Leipzig u. a. 1927 (Zugleich: Leipzig, Universität, phil. Dissertation, 1926).. Całe życie zajmował się pracami Joachima z Fiore. Już w pracy doktorskiej zapowiedział wydanie trzech głównych dzieł Joachima z Fiore. Jednakże do końca życia nie udało mu się tego wydania ukończyć. Po otrzymaniu doktoratu Grundmann zagłębił się w tematykę zakonów i sekt 13 stulecia, jednakże nie miał w swojej pracy żadnego konkretnego planu życiowego. Jego promotor Goetz nakłonił go do habilitacji. W 1926 roku został stypendystą Institut für Kultur- und Universitätsgeschichte przy Uniwersytecie w Lipsku. Dzięki temu stypendium mógł odbyć podróże do Francji i Włoch.