Otaczają go od południa i wschodu pagórkowate wyżyny Kraichgau i będące częścią Wyżyny Meńsko-Neckarskiej, od zachodu Nizina Górnoreńska, od północy dolina Menu i pokrewny masyw Spessart.
Góry zostały wypiętrzone 300 milionów lat temu w ramach orogenezy hercyńskiej. Ulegały kilkakrotnie erozji i ponownemu wypiętrzaniu, po raz ostatni w trakcie orogenezy alpejskiej. Około 60 milionów lat temu był to obszar aktywny wulkanicznie.
Obecnie, mimo zalesienia, obszar gór jest dość gęsto zaludniony i przez to dobrze skomunikowany siecią drogową i kolejową. Największym miastem na terenie Odenwaldu jest Heidelberg (145 tys. mieszkańców), a kolejnymi pod względem zaludnienia miejscowościami są Weinheim (45 tys.) i Bensheim (40 tys.) – wszystkie trzy wzdłuż podgórza Bergstraße. W pobliżu znajdują się także Mannheim (309 tys.), Heilbronn (126 tys.), Darmstadt (159 tys.) i Aschaffenburg (71 tys.).
Administracyjnie masyw znajduje się na terenie trzech landów: Badenii-Wirtembergii (powiaty Neckar-Odenwald, Ren-Neckar i miasto wydzielone Heidelberg), Hesji (powiaty Odenwald, Bergstraße i w niedużym stopniu Darmstadt-Dieburg) oraz Bawarii (rejencja Dolna Frankonia, powiat Miltenberg i niewielki skraj powiatu Aschaffenburg).