W 1896 roku, po maturze, Martin wyjechał do Wiednia i rozpoczął studia akademickie, obejmujące filozofię, historię sztuki, germanistykę i językoznawstwo. Studiował również w Lipsku, Zurichu i Berlinie. Na studiach poznał swoją przyszłą żonę, Paulę Winkler. W 1904 roku ukazała się jego praca doktorska „Przyczynki do historii problemu indywiduacji” (niem. Beiträge zur Geschichte des Individuationsproblems), w której omówił filozofię Jakuba Böhmego i Mikołaja z Kuzy.
Działalność publiczna W 1898 roku osobiście spotkał się z Theodorem Herzlem i po poznaniu jego koncepcji dołączył do ruchu syjonistycznego. Buber nie zgadzał się jednak we wszystkim z Herzlem. Dla Herzla celem syjonizmu było ustanowienie państwa żydowskiego w Ziemi Izraela, ale nie uważał on aby religia była konieczna dla narodu żydowskiego. W jej miejscu widział on kulturę żydowską. Buber dostrzegł potencjał społeczny i duchowy tkwiący w ruchu syjonistycznym. Jednak w przeciwieństwie do Herzla uważał, że nowe państwo będzie potrzebowało religii. Dodawał przy tym, że niezbędnym jest przeprowadzenie reformy judaizmu. W 1902 roku został redaktorem naczelnym tygodnika syjonistycznego Die Welt, jednak rok później ze względu na różnicę zdań z Herzlem wycofał się z tej pracy.