Budynek muzeum Pierwszym architektem wynajętym przez małżeństwo Kröller-Müller do zaprojektowania budynku mieszczącego zbiory sztuki był Peter Behrens. W 1911 zaprojektował on w Wassenaar dom Ellenwoude, pomyślany jako budynek mieszkalny z dużą galerią. Była to kubistyczna bryła o jasnych, klasycznych formach. Ponieważ przedłożone szkice nie przekonały Helene Kröller-Müller, na placu budowy powstał tylko model budynku naturalnej wielkości, wykonany z drewna i płótna, a nieporozumienia doprowadziły do zmiany architekta.
Nowymi architektami zostali: współpracownik Behrensa Ludwig Mies van der Rohe oraz, na życzenie doradcy H.P. Bremmera, także Hendrik Petrus Berlage. Obaj przedłożyli plany w 1912, jednak i one nie doczekały się realizacji.
thumb|250px|Dom myśliwski św. Huberta Po zakupieniu przez małżeństwo Kröller-Müller obszaru De Hoge Veluwe w prowincji Geldria z przeznaczeniem na teren łowiecko-jeździecki, postanowili oni zbudować tam dwa budynki: dom myśliwski św. Huberta (Jachthuis Sint-Hubertus) i w pewnej odległości od niego oddzielne muzeum. Oba zaprojektował Berlage. Dom myśliwski powstał w latach 1914–1920. Po 1916 Berlage pracował nad projektem budynku muzeum przy tzw. Francuskiej Górce.