Najistotniejszym elementem „Małego Planu” był zamiar fizycznej likwidacji warstw przywódczych narodu polskiego, a następnie pozostałej części Polaków określanych jako „niebezpieczni”.
„Mały Plan” był w większości swoich założeń kontynuacją planów dotyczących Polski opracowywanych od połowy lat 30. – w maju 1939 w jednostce niemieckiego kontrwywiadu, Głównym Urzędzie SD Reichsfuhrera SS utworzono specjalną komórkę , zajmującą się sporządzaniem list osób przeznaczonych do ujęcia w Polsce, uznanych za potencjalne zagrożenie dla nazistowskich planów. Podobne listy sporządzała berlińska centrala tajnej policji Gestapo, ze szczególnym uwzględnieniem Polaków wrogo nastawionych do niemczyzny. Na podstawie obu tych list sporządzono ostatecznie „księgę gończą” tzw. – zawierała ona w porządku alfabetycznym 61 000 nazwisk wybitnych Polaków (działaczy społecznych i politycznych, ludzi kultury, nauki i sztuki, uczestników powstania wielkopolskiego, aktywistów plebiscytowych na Mazurach, Warmii oraz Śląsku, członków Polskiego Związku Zachodniego i Związku Polaków w Niemczech).