Produkcję T-62 w ZSRR zakończono już w 1975 roku, wcześniej niż produkcję T-55. Liczba wszystkich wyprodukowanych w ZSRR egzemplarzy przekracza 20 000 sztuk, nie jest znana liczba czołgów wybudowanych w Korei Północnej. T-62 znalazł się na uzbrojeniu wielu armii świata. Był używany między innymi przez armie Afganistanu (170 egz.), Algierii (300 egz.), Angoli (ponad 100 egz.), Kuby (300 egz.), Egiptu (600 egz.), NRD (ponad 100 egz.), Iranu (ponad 150 egz.), Iraku (ponad 1000 egz., w większości zniszczone podczas wojen w Zatoce Perskiej), Izraela (120 czołgów zdobycznych, jako Tiran 6), Korei Północnej (ok. 1200 egz.), Wietnamu (200 egz.) i Jemenu (30 egz.).
W Rosji ostatnie T-62 zostały oficjalnie wycofane w 2013 roku. Jednak w trakcie rosyjskiej inwazji na Ukrainę w 2022 roku część z wcześniej wycofanych czołgów T-62M i T-62MW, zmagazynowanych w rosyjskich rezerwach mobilizacyjnych, została reaktywowana i wysłana w rejon walk. Niektóre czołgi zostały doposażone w charakterystyczne improwizowane prętowe osłony przeciwko pociskom kumulacyjnym. Prawdopodobnie zostały przekazane jednostkom ochotniczym separatystów z Doniecka i Ługańska.
Czołgi T-62 były używane przez państwa arabskie podczas wojen z Izraelem, a także przez Irak podczas wojen w Zatoce Perskiej.