Przewodniczącym Głównej Komisji był Minister Sprawiedliwości, który powoływał członków Głównej Komisji oraz przewodniczących Okręgowych Komisji Badania Zbrodni Niemieckich w Polsce. Członków Okręgowych Komisji powoływał przewodniczący Okręgowej Komisji. Minister Bezpieczeństwa Publicznego mógł delegować do Głównej Komisji i do Okręgowych Komisji przedstawicieli władz bezpieczeństwa celem współdziałania.
W latach 1946–1950 Główna Komisja posiadała zagraniczną ekspozyturę, którą była Polska Misja Wojskowa Badania Zbrodni Niemieckich utworzona przy Sojuszniczej Radzie Kontroli Niemiec.
Do zadań Głównej Komisji należało: badanie i zbieranie materiałów dotyczących zbrodni niemieckich popełnionych w latach 1939–1945 w Polsce lub poza jej granicami w stosunku do obywateli polskich lub osób narodowości polskiej oraz w stosunku do cudzoziemców, którzy w tym czasie przebywali w Polsce, kierownictwo i uzgadnianie prac Okręgowych Komisji oraz wszystkich instytucji o pokrewnym zakresie działania i współpraca z Instytutem Pamięci Narodowej przy Prezydium Rady Ministrów, ogłaszanie materiałów i wyników badań dotyczących zbrodni niemieckich i rozpowszechnianie ich w kraju i za granicą oraz udostępnianie materiałów pokrewnym instytucjom zagranicznym.