Z czasem Ordżonikidze stracił zaufanie do Berii, który w tym czasie zyskał już jednak zaufanie Stalina.
Od 1930 członek Biura Politycznego; komisarz (minister) przemysłu ciężkiego od 1932.
Sprzeciw wobec kampanii terroru i śmierć U progu wielkiej czystki zmarł nagle 18 lutego 1937, wkrótce po zakończeniu drugiego procesu moskiewskiego, na którym sądzono m.in. jego pierwszego zastępcę i prawą rękę w komisariacie przemysłu ciężkiego Jurija Piatakowa (Ordżonikidze miał otrzymać uprzednio od Stalina gwarancje ocalenia życia PiatakowaTym razem Stalin stanął wobec groźby twardego sprzeciwu ze strony towarzysza, z którym sprawa była niełatwa – Sergo Ordżonikidzego. Sergo został bowiem oszukany. Biorąc bezpośredni udział w rokowaniach przed procesem Piatakowa, dostał od Stalina zapewnienie, że Piatakow nie zostanie rozstrzelany. (…) Po aresztowaniu Piatakowa Stalin przyrzekł Ordżonikidzemu: „Piatakow nie zostanie stracony”. Po procesie Jeżow oświadczył mu: „Piatakow żyje”. Ordżonikidze zażądał widzenia z nim, co mu obiecano. Jeżow powiedział mu potem, że Piatakow jest w stanie szoku z powodu „sztuczki Norwegów”. Ordżonikidzego nie dało się jednak zbywać w ten sposób zbyt długo. Dostrzegł w tym wszystkim złowrogi precedens. Stało się jasne, że Ordżonikidze będzie odtąd walczył z czystką wszystkimi możliwymi środkami. Por. R.