W latach 1950–1974 pracował w Instytucie Matematycznym PAN, w latach 1960–1968 równocześnie na Wydziale Matematyki i Mechaniki Uniwersytetu Warszawskiego. W 1960 mianowany profesorem nadzwyczajnym. W 1967 prowadził wykłady na Uniwersytecie w Amsterdamie. Od 1967 był członkiem Sekcji Logiki w Międzynarodowej Unii Historii i Filozofii Nauki. W 1972 otrzymał tytuł profesora zwyczajnego. W 1974 został pracownikiem Instytutu Filozofii i Socjologii PAN, od 1982 kierował Pracownią Etyki tamże.

Zainteresowania naukowe Andrzeja Grzegorczyka koncentrowały się na logice matematycznej ze szczególnym uwzględnieniem problematyki rozstrzygalności, teorii modeli, funkcji rekurencyjnych oraz zastosowania logiki w metodologii nauk. Ponadto zajmował się podstawami racjonalnego poglądu na świat i tworzeniem własnego systemu filozoficznego.

Był także aktywnym członkiem warszawskiego Klubu Inteligencji Katolickiej, jego wiceprezesem (1972–1973) i członkiem zarządu (1973–1974, 1976–1978)Andrzej Friszke Oaza na Kopernika. Klub Inteligencji Katolickiej 1956–1989 wyd. Warszawa 1997, według indeksu., od lat 70.