Od 1864 roku piastował urząd rzeczywistego radcy stanu, członka Warszawskich Departamentów Rządzącego Senatu.
Był właścicielem lasu w Słomowie Kościelnym w powiecie tureckim.
Napisał artykuł zamieszczony w pracy zespołowej ofiarowanej Stanisławowi Jachowiczowi, pełniącemu w latach 1818–1823 stanowisko kancelisty w Prokuratorii Generalnej Królestwa Polskiego.
Odznaczenia Rosyjska Cesarsko-Królewska Kapituła Orderów, patentem nr 392, w dniu 15 kwietnia 1842 roku przyznała mu Order Św. Stanisława klasy III.
Szlachectwo Dnia 9 maja 1844 roku złożył podanie do Deputacji Szlacheckiej o przyznanie szlachectwa na zasadzie posiadanego odznaczenia. Deputacja raportem z dnia 1 października 1844 roku wniosła do Heroldii o wpisanie Alojzego Gonzagi Kosteckiego do ksiąg szlachty dziedzicznej guberni warszawskiej oraz o wskazanie mu dalszej drogi w celu uzyskania dyplomu na takowe szlachectwo. Dnia 15 kwietnia 1852 roku uzyskał potwierdzenie szlachectwa dziedzicznego przez Mikołaja I, wraz z nadaniem herbu Prawina.
Życie prywatne Alojzy Gonzaga był synem Józefa Kosteckiego i Wiktorii z domu Kwaśniewskiej.