W marcu 2007 portal internetowy tygodnika „Wprost” opublikował fragmenty stenogramu nagrań prywatnych wypowiedzi Józefa Oleksego z września 2006, dokonanych w biurze Aleksandra Gudzowatego. Były premier zarzucał w nich Aleksandrowi Kwaśniewskiemu, iż w sposób nielegalny uzyskał składniki swojego majątku i nie będzie w stanie wyjaśnić źródeł jego pochodzenia. Wypowiadał się także negatywnie o innych liderach SLD Wojciechu Olejniczaku i Jerzym Szmajdzińskim.
Życie prywatne Syn Józefa i Michaliny z domu Waśko. Brat Bogumiły, Mariana i Wacława. Był żonaty z Marią Oleksy. Miał dwoje dzieci, syna Michała i córkę Julię.
Od 2005 zmagał się z chorobą nowotworową. Zmarł 9 stycznia 2015 po tygodniowej hospitalizacji w Centrum Onkologii – Instytucie im. Marii Skłodowskiej-Curie w Warszawie. Uroczystości pogrzebowe z udziałem przedstawicieli władz państwowych, w tym prezydenta RP Bronisława Komorowskiego, odbyły się 16 stycznia 2015 w katedrze polowej Wojska Polskiego w Warszawie. Józef Oleksy został pochowany na Cmentarzu Wojskowym na Powązkach (kwatera C6/tuje/4).