Historia Okolice dzisiejszego Sarajewa zamieszkane były już w czasach prehistorycznych. W Butmirze, obecnie przedmieściu Sarajewa, w latach 1893–1896 odsłonięto ślady osad z okresu neolitycznego sprzed ok. 4500 lat. Tereny te były również zamieszkane w czasach rzymskich (rzymska osada na terenie dzielnicy Ilidża).
W średniowieczu w miejscu dzisiejszego Sarajewa istniała osada Vrhbosna.
W 1429 roku tereny na którym leży Sarajewo zostały zajęte przez Imperium Osmańskie. Nowożytne Sarajewo założone zostało w 1462 r. i rozbudowane przez pierwszego osmańskiego władcę Bośni Isa-beg Isakovicia.
W okresie panowania tureckiego Sarajewo było centrum administracyjno-politycznym Bośni osmańskiej. Pierwszy osmański gubernator Bośni, Isa-Beg Ishaković przekształcił skupisko wiosek w miasto, budując kilka kluczowych obiektów, w tym meczet, zamknięty targ, łaźnię turecką, karawanseraj, most i pałac gubernatora („Saraj”), który nadał miastu obecną nazwę w połączeniu z „evo”. Meczetowi nadano nazwę „Careva Džamija” (Meczet Cesarski) na cześć sułtana Mehmeda II. Dzięki inwestycjom i rozwojowi Sarajewo szybko stało się największym miastem w regionie. Drugi gubernator Gazi Husrev-beg w znacznym stopniu ukształtował fizyczny obraz miasta, ponieważ większość obecnego Starego Miasta powstała za jego panowania.