Tydzień po śmierci Pauliny rodzina Herzlów przeprowadziła się do Wiednia, zamieszkując w Leopoldstadt (dzielnica o największej liczbie Żydów w mieście w owym czasie). Theodor powrócił w czerwcu na krótko do Pesztu, aby zdać egzamin maturalny. Jesienią 1878 roku zapisał się jako student prawa na Uniwersytet Wiedeński, marzył jednak o karierze literackiej. Później wykorzystywał wiedzę prawniczą w swoich syjonistycznych pismach politycznych, kreśląc zarysy systemu prawnego przyszłego państwa żydowskiego. W 1878 roku został członkiem bezpartyjnego stowarzyszenia kulturalnego studentów Akademische Lesehalle. Przedstawił tam komedię Die Ritter vom Gemeinplatz, która była satyrą na ludzką obłudę i zdradę. W 1880 roku ukazała się drukiem jego komedia Kompagniearbeit. W tym samym roku przeprowadził się do eleganckiej dzielnicy Innere Stadt w śródmieściu Wiednia, co świadczyło o poprawie warunków ekonomicznych Herzla. Na studiach zbliżył się, a następnie wstąpił do korporacji akademickiej (burschenschaft) Akademische Burschenschaft Albia. Było to niemiecko-narodowe stowarzyszenie zrzeszające studentów, którego motto brzmiało: „Honor, Wolność, Ojczyzna” (niem. Ehre, Freiheit, Vaterland). Wyrazem wzrostu nastrojów antysemickich wśród niemieckiej młodzieży uczelnianej było zakazanie w 1881 roku Żydom członkostwa w korporacjach studenckich.