Nazwa miejscowości pochodzi od polskiej nazwy rośliny należącej do rodziny różowatych – głogu (Crataegus L.). Wywód ten prezentuje topograficzny opis Górnego Śląska z 1865 roku notujący miasto pod niemieckimi, polskimi oraz łacińskimi nazwami we fragmencie: „Ihren Namen Ober-Glogau (Gorny Glógow, Superior Glogovia) hat die Stadt wahrscheinlich von dem noch heute hie und da wachsenden Hagedorn (pol. głog) erhalten sie wird auch wohl Klein-Glogau oder Weniger-Glogau, polnisch Mały-Glogów, Głogówek, Minor-Glogovia genannt”, czyli w tłumaczeniu na język polski Jego nazwy Ober-Glogau (Gorny Glógow, Superior Glogovia) wzięły się zapewne od głogu, który tu rośnie podobnie jak wzięły je nazwy Klein-Glogau lub Weniger-Glogau, polski Mały-Głogów, Głogówek, Minor Glogovia.
W 1475 roku w łacińskich statutach Statuta synodalia episcoporum Wratislaviensium miejscowość wymieniona jest w zlatynizowanej formie Glogouie minoris. W roku 1613 śląski regionalista i historyk Mikołaj Henel z Prudnika wymienił miejscowość w swoim dziele o geografii Śląska pt.