W latach 80. wydawał niezależne czasopismo „Náboženstvo a Súčasnosť” („Religia i Współczesność”), pisał także dla słowackich periodyków emigracyjnych (w tym monachijskiego „Horizonte”), jego teksty odczytywano m.in. w Radiu Wolna Europa. Współpracował z opozycjonistami, udzielał im pomocy prawnej, spotykał się z czeskimi i polskimi dysydentami. W 1987 został członkiem jawnego Kręgu Przyjaciół Ruchu Solidarność Polsko-Czesko-Słowacka. W 1988 i 1989 uczestniczył w spotkaniach opozycjonistów na granicy polsko-czechosłowackiej.

25 marca 1988 (obok Františka Mikloška) był głównym organizatorem tzw. świeczkowej demonstracji. W manifestacji wzięło udział około 8–10 tys. uczestników, zaopatrzonych w świece, domagających się większej swobody religijnej i przestrzegania praw człowieka. Zgromadzenie zostało rozbite przez policję, a czołowi działacze opozycji, w tym Ján Čarnogurský tego samego dnia tymczasowo aresztowani.

Ján Čarnogurský podpisywał w tym okresie najważniejsze opozycyjne odezwy, brał udział w działaniach Komitetu Helsińskiego. Organizował spotkanie przy mogile Milana Rastislava Štefánika w 80. rocznicę jego śmierci.