Żydów już w 1940 roku zmuszono do przeniesienia się do wyznaczonej przez Niemców części miasta. Oficjalnie getto w Gąbinie utworzono w sierpniu 1941 roku, jego granice wyznaczały ulice Kilińskiego, Poprzeczna, Cmentarna i częściowo Suchy Pień w części miasta nazywanej Budki. Początkowo było to getto otwarte, później zostało jednak otoczone płotem. W getcie występowały epidemie tyfusu i innych chorób, działała jednak szkoła pod kierownictwem Poli Pindek i Hindy Brzezińskiej. Getto otrzymywało wsparcie z Jointu, z którego pomocą otwarto w getcie kuchnię, więźniom getta wydawano także leki i ubrania. W 1942 roku w getcie zarejestrowano 2150 osób, w tym 250 pochodzących z okolicznych miejscowości.
W 1941 roku rozpoczęto także deportacje więźniów getta do obozów pracy przymusowej w okolicach Poznania. W marcu 1942 roku około 500 mężczyzn zostało wysłanych do obozu pracy w Koninie-Czarkowie, przed deportacją szef Arbeitsamtu osobiście zastrzelił trzech starców. Chorych i starych więźniów transportowano do obozu zagłady w Chełmnie nad Nerem.