Wstąpił do wojska w 1809 i został skierowany do Sandomierza, gdzie jako starszy lekarz szpitala wojskowego, podczas oblężenia miasta przez Austriaków, wsławił się nieustraszoną postawą w niesieniu pomocy rannym żołnierzom na polu bitwy. 24 sierpnia tego roku „za gorliwość i poświęcenie w niesieniu pomocy rannym na polu boju podczas oblężenia Sandomierza przez Austriaków” otrzymał Krzyż Złoty Orderu Wojskowego Księstwa Warszawskiego patent nr 1657. Po włączeniu Krakowa do Księstwa Warszawskiego i rozpoczęciu wykładów na UJ w języku polskim, Stummer zwolnił się z wojska i od 1810 kierował katedrą anatomii, fizjologii i okulistyki. Został mianowany profesorem UJ a od 1812 dodatkowo kierował kliniką chirurgii i prowadził wykłady z chirurgii praktycznej. W pierwszych latach funkcjonowania UJ w nowych warunkach politycznych wystąpiły poważne problemy finansowe. Stummer przez kilka lat utrzymywał pracowników prosektorium z własnych środków.