Najstarsze z odkrytych i dostępne dla zwiedzających ślady osadnictwa, pochodzą z neolitu, gęsto pokrywając wzgórze Pnyks, wzgórze Muz i północną oraz zachodnią część wzgórza Filopapposa. Pierwsza znana polis ateńska powstała na obwarowanym Akropolu rozszerzając się stopniowo u podnóża skały. Obce wojska, tak greckie, jak barbarzyńskie, burzyły ją wielokrotnie, ale zawsze, w ciągu stuleci, Ateny odbudowywały się wokół swych dwóch ośrodków: sakralnego na Akropolu i publicznego wokół agory. Wokół tych ośrodków życia publicznego, rzemiosła i handlu, wokół świątyń i pałaców rozciągała się bezładna, nieplanowana zabudowa rozrastającego się miasta.
Aż do drugiej połowy XIII wieku p.n.e. Ateńczycy wzmacniali obronność Akropolu. Dookoła szczytu wzniesiono tzw. cyklopowe mury. Grubość ich wynosiła na niektórych odcinkach 5 m. Wejście założono od strony zachodniej, czyli w miejscu najbardziej dostępnym. Tam później – w czasach Peryklesa – jego architekt Mnesikles wzniósł Propyleje. Dla obrony tego głównego wejścia wzniesiono drugi ciąg murów, które zapewniały większe bezpieczeństwo obejmując swym zasięgiem trzy ważne dla miasta źródła.