W latach 80. pracował m.in. w paryskich centralnych laboratoriach badawczych France Télécom i na University of Adelaide. W latach 90. kierował na AGH Katedrą Telekomunikacji. Był autorem książek branżowych, takich jak Modelling and control of dynamic flows in communication networks (1988) oraz Real Time Network Management (1991), a także około stu publikacji naukowych.

W 1993 założył przedsiębiorstwo informatyczne Comarch, w którym w 1998 objął stanowisko prezesa zarządu. Wraz z żoną – Elżbietą (przewodniczącą rady nadzorczej) został głównym akcjonariuszem tej spółki (w 2016 kontrolowali ponad 2/3 głosów na walnym zgromadzeniu akcjonariuszy). Tworzona przez niego spółka przekształciła się w grupę kapitałową, a Janusz Filipiak w 2000 po raz pierwszy został umieszczony na liście 100 najbogatszych Polaków prowadzonej przez tygodnik „Wprost”.

W 2004 został prezesem zarządu sportowej spółki akcyjnej MKS Cracovia, tworzonej przez ten klub sportowy i miasto Kraków. W październiku 2015 wszedł w skład Narodowej Rady Rozwoju powołanej przez prezydenta Andrzeja Dudę. W latach 2019–2020 był przewodniczącym Rady Uczelni AGH. W latach 2015–2016 był członkiem rady nadzorczej Nord/LB Bank Polska.