thumb|240px|Dom handlowy Focke & Meltzer przy Kalverstraat w Amsterdamie, 1885 W 1881 roku został zatrudniony w pracowni holenderskiego architekta Theodorusa Sandersa (1847–1927) w Amsterdamie. W latach 1884–1889 był partnerem w firmie architektonicznej Sandersa. Początkowo tworzył w popularnym w 2. połowie XIX wieku stylu neorenesansowym – m.in. wraz z Sandersem opracował na konkurs projekt nowego gmachu giełdy (niezrealizowany), projekt domu handlowego Focke & Meltzer w Amsterdamie (1885) i kawiarni „De Hoop” (zburzona).

Berlage wątpił w sens historyzmu, który jego zdaniem nie pasował do ówczesnej cywilizacji. W 1889 roku zerwał z Sandersem i rozpoczął samodzielną działalność. Duży wpływ na dalszą twórczość Berlage mieli Eugène Viollet-le-Duc (1814–1879) i Pierre Cuypers (1827–1921), zwolennicy „architektury racjonalnej”, skupiającej się na budowie, a nie dekoracjach.

W 1893 roku w swoim wykładzie „Architektura i impresjonizm” argumentował, że nowoczesne społeczeństwo wymaga uproszczonej architektury, że architekt powinien zaprzestać „walki z dawnymi formami” i skoncentrować się na szerszym obrazie. Berlage zaczął rozwijać własny styl, tworząc dekorację z ceglanej struktury muru.