Wśród jego studentów był jego daleki kuzyn Arthur Sullivan oraz Charles Villiers Stanford.
O’Leary wykładał również w innych londyńskich uczelniach muzycznych: w National Training School for Music (od jej założenia w 1876) oraz w Guildhall School of Music and Drama (od jej założenia w 1880).
Twórczość Jego dorobek kompozytorski obejmuje utwory orkiestralne, wokalne (głównie pieśni) i wokalno-instrumentalne (muzyka liturgiczna) oraz utwory na fortepian i wyciągi fortepianowe. Zajmował się też edycją wydań nutowych. Redagował m.in. Oratorium na Boże Narodzenie Bacha, utwory fortepianowe Bennetta, msze Hummla, Simon Sechtera i Schuberta.
Zdaniem współczesnego irlandzkiego kompozytora i krytyka muzycznego Raymonda Deane’a, O’Leary był znakomitym kompozytorem salonowym, a jego utwory nadają się idealnie na bis lub jako zestawy konkursowe czy egzaminacyjne. Jednakże niektóre jego kompozycje – takie jak toccata F-dur, czy wariacje c-moll – „są bardziej znaczącymi dziełami, przeznaczonymi dla profesjonalnych pianistów i mogącymi być ozdobą niejednego recitalu”.
Wybrane kompozycje
Orchestral (niepublikowane) Symfonia C-dur, 1853 Suita, 1856 Koncert fortepianowy e-moll (niedatowany) Pastorale, 1865