W czasie blisko 15 lat w izbie wyższej Kongresu Mitchell szybko awansował w jego hierarchii. Podczas poważnej choroby przewodniczącego pro tempore Johna C. Stennisa był jego zastępcą. Kiedy w 1989 ówczesny lider większości Robert Byrd sam został przewodniczącym pro tempore, jego następcą został właśnie senator z Maine.
Zaliczający się raczej do skrzydła partii Mitchell w czasie dwóch ostatnich lat swej kadencji lidera większości (1993–1995) aktywnie uczestniczył z przepchnięciu przez Senat pakietu udanych reform gospodarczych prezydenta Billa Clintona. Nie ubiegał się o trzecią pełną kadencję.
Mimo wysokiej pozycji przez całą swą kadencję był młodszym senatorem (ang. junior senator), albowiem drugim senatorem z Maine był William Cohen, który piastował mandat w latach 1979–1997.
W 1994 Clinton oferował Mitchellowi fotel sędziego Sądu Najwyższego, ale ten odmówił przyjęcia tej godności.
Wyniki wyborów Wybory Kandydat Partia Wynik Przeciwnik Partia Wynik George J. Mitchell Demokratyczna (61%) David F. Emery Republikańska (39%) George J. Mitchell Demokratyczna (81%) Jasper Wyman Republikańska (19%)
Po opuszczeniu Senatu Po opuszczeniu swego miejsca w Senacie Mitchell był wspólnikiem i prezesem kilku wpływowych firm prawniczych w Waszyngtonie.