Historia Znaleziska archeologiczne wskazują na istnienie osad ludzkich na terenie zachodniej części dzisiejszego Kobe już w okresie Jōmon (lata 12 000 p.n.e. do 300 p.n.e). Region Kobe jest wzmiankowany w starej kronice Nihon-shoki, opisującej założenie chramu Ikuta przez cesarzową Jingū w roku 201 n.e. ku czci bogini Wakahirume-no-MikotoWakahirume-no-Mikoto → na temat tego imienia i samej bogini istnieje kilka wersji wyjaśnień. Według jednej z nich, głoszonej przez chram Ikuta, jest to imię bogini Amaterasu z okresu dzieciństwa. Była wówczas nazywana Ōhirume. W innych wersjach jest to siostra Amaterasu, inna bogini lub bóg-dziecko, potomek (mikogami).. Nazwa Kobe wywodzi się rzekomo od słowa kanbe (kamube), oznaczającego rodziny, które opiekowały się sanktuariami. Dla mieszkańców chram jest symbolem odradzania i nadziei, ponieważ przetrwał nienaruszony wiele tragedii: wojen, powodzi, trzęsień ziemi.
Miasto rozwijało się w dużej mierze dzięki korzystnemu położeniu, stymulującemu rozwój portu. Prowadzono stąd handel międzynarodowy m.in. z Chinami.