Miasto było stolicą , którego okres rozkwitu przypadł na wiek XVIII i pierwszą połowę XIX wieku. Wielki meczet w Kongu wzniesiono w latach 40. XVIII wieku. W maju 1897 roku wojska sąsiedniego państwa pod wodzą Samoriego Touré najechały osłabiony wewnętrznymi konfliktami, epidemiami i klęską głodu Kong oraz zdobyły stolicę. Dokonano masakry miejscowej ludności, a wielki meczet został zniszczony. Budynek szybko jednak odbudowano na początku kolejnego stulecia.

Od 1988 roku meczet jest prawnie chroniony jako obiekt zabytkowy. W latach 1991–1992 wyremontowano taras znajdujący się na dachu świątyni. Prace renowacyjne przeprowadził David Agossou z Beninu. W 2021 roku zarówno wielki, jak i mały meczet w Kongu wpisane zostały na listę światowego dziedzictwa UNESCO jako część dobra seryjnego o nazwie Meczety w stylu sudańskim na północy Wybrzeża Kości Słoniowej (, ).