Po rozłamie w SFIO po kongresie w Tours w 1921 Souvarine wszedł do zarządu nowo powstałej Francuskiej Sekcji Międzynarodówki Komunistycznej (SFIC, przekształconej następnie w PCF) i z jej ramienia uczestniczył w trzecim kongresie III Międzynarodówki, gdzie wybrano go do komitetu wykonawczego i prezydium Kominternu. Od 17 lipca 1921 zasiadał w jego sekretariacie. W związku z pełnioną funkcją zamieszkał w Moskwie, starał się jednak uczestniczyć także w życiu francuskich komunistów (ponownie zasiadał we władzach partii od 1923). Miał walny udział w zaakceptowaniu przez partię radykalnego programu politycznego wbrew stanowisku partyjnego centrum na kongresie w Boulogne.
Już od 1923, biorąc udział w rywalizacji przywódców bolszewickich o władzę w partii i dalszą taktykę działania, poparł Trockiego w sporze ze Stalinem, Zinowiewem i Lwem Kamieniewem. W 1924 na kongresie SFIC w Lyonie ostro sprzeciwił się zwolennikom Zinowiewa i koncepcji socjalizmu w jednym kraju, którym przewodził Albert Treint. Mimo odniesionego w dyskusji zwycięstwa, Souvarine został usunięty z władz partii za sprawą interwencji Kominternu. W marcu 1924 Souvarine skrytykował na łamach partyjnej prasy "mechaniczny centralizm i biurokratyzm" w SFIC, a w tym samym roku przedrukował artykuł Trockiego pt.