W 1987, już w czasie rządów prezydenta Lansany Conté, założył na emigracji Zgromadzenie Ludu Gwinei (Rassemblement du Peuple de Guinée, RPG). Do Konakry powrócił dopiero w maju 1991, po wprowadzeniu w kraju systemu wielopartyjnego. Pomimo tego władze zakazały organizacji wiecu RPG na stadionie klubu Athlético de Coléah w Konakry, a Condé w celu uniknięcia deportacji szukał schronienia w ambasadzie Senegalu.
W grudniu 1993 wziął udział w pierwszych w historii kraju wielopartyjnych wyborach prezydenckich. Według oficjalnych danych zajął drugie miejsce z wynikiem 19,55% głosów, za urzędującym prezydentem Conté (51,70% głosów). Władze anulowały wówczas wyniki z części okręgów wyborczych, stanowiących jego bastiony poparcia. Opozycja uznała wybory za sfałszowane i odrzuciła ich wyniki. W wyborach parlamentarnych w czerwcu 1995 RPG zdobyło 19 spośród 114 mandatów.