Kariera polityczna Po powrocie do Karabachu podjął działalność w strukturach partyjnych. Od 1979 był etatowym pracownikiem Komitetu Miejskiego Komsomołu w Stepanakercie: kierownikiem wydziału, II sekretarzem, a w latach 1983–1985 I sekretarzem KM Komsomołu. Kierował również wydziałem propagandy i agitacji w Komitecie Miejskim w Stepanakercie, a od 1985 był asystentem I sekretarza Komitetu Obwodowego KPZR w Górskim Karabachu.
Pod koniec lat 80. związał się z lokalnym ruchem ormiańskim, którego celem było wyłączenie Karabachu z granic Azerbejdżańskiej SRR i zjednoczenie z Armenią. Był bliskim współpracownikiem jednego z przywódców ruchu – Roberta Koczariana. Na przełomie lat 80. i 90. nastąpiła eskalacja konfliktu między Ormianami i Azerami w Górskim Karabachu. Sarkisjan stał w latach 1989–1993 na czele Komitetu Sił Samoobrony Górskiego Karabachu. W 1990 został wybrany do Rady Najwyższej Armenii, a w 1991 do Rady Najwyższej Republiki Górskiego Karabachu. W latach 1992–1993 pełnił obowiązki ministra obrony republiki karabachskiej. Na czele władz Karabachu stał w tym samym czasie Robert Koczarian.