Przypuszcza się pochodzenie przedgreckie, ale wiąże się tę nazwę także z wyrazami greckimi, takimi jak éphesis „dążenie, pragnienie” czy éphoros „nadzorca, strażnik, przywódca, władca”.
Historia Legenda o powstaniu miasta W myśl tradycji, założycielem miasta był Androklos, syn ateńskiego króla Kodrosa. Przed wyprawą do Jonii, otrzymał od wyroczni wskazówkę dotycząca lokacji nowego miasta, w miejscu, które wskażą ryba i dzik. Na wzgórzu Pion (), niedaleko ujścia rzeki Kaystron, spotkał przy ognisku rybaków piekących ryby. Jedna z ryb podskoczyła, wpadła do ogniska a rozpryskujące się iskry zapaliły pobliskie zarośla. Ogień spłoszył kryjącego się w nich dzika. Wypełniając przepowiednię Androklos w tym miejscu, na północnym zboczu góry Pion, założył swoje miasto.
Okres starogrecki Miasto Jońskie zostało założone najprawdopodobniej w IX wieku p.n.e. Chociaż można spotkać się także z innym datowaniem, sięgającym do XI i XIV wieku p.n.e. i opiniami historyków łączących początki Efezu ze stolicą hetyckiego królestwa Arzawa, Apasas. Nazwa ta jest tłumaczona jako Miasto Królowej Matki. Jednak najstarsze zabytki archeologiczne, odnalezione w okolicach wzgórza Ayasuluk, to fragmenty ceramiki mykeńskiej.