16 czerwca 1983 został też tytularnym szefem państwa – Przewodniczącym Prezydium Rady Najwyższej ZSRR (był deputowanym do Rady Najwyższej ZSRR 3 kadencji i od 6 do 10 kadencji).

W polityce wewnętrznej Andropow znany był, oprócz pierwszych prób reform, z prób ograniczenia powszechnej korupcji i alkoholizmu. W polityce zaś zagranicznej kontynuował wojnę w Afganistanie, próbował poprawić stosunki na linii ZSRR-USA, ale odrzucił proponowane przez administrację Reagana propozycje redukcji broni strategicznej (słynny „spacer w lesie”, podczas którego amerykański negocjator Paul Nitze przedstawił propozycję ograniczenia zbrojeń radzieckiemu negocjatorowi Julijowi Kwizinskiemu). W czasie swej krótkiej kadencji Andropow wsławił się odpowiedzią na list amerykańskiej dziewczynki Samanthy Reed Smith w „Prawdzie”, co sprawiło, że stała się ona najmłodszym ambasadorem dobrej woli w USA.