Pod koniec lipca 1959 roku Centrala Badania Zbrodni Narodowosocjalistycznych w Ludwigsburgu wszczęła śledztwo w sprawie zbrodni popełnionych w Bełżcu. Oberhauser – ostatni żyjący członek kierownictwa obozu – stał się głównym podejrzanym. Początkowo zaprzeczał, iż w jakikolwiek sposób uczestniczył w Zagładzie Żydów. Twierdził, że wysłano go do Lublina w celu sformowania „dywizji ukraińskiej”, a w okolicach Bełżca przebywał jedynie w poszukiwaniu broni pozostawionej przez rozbite oddziały sowieckie. Na przełomie 1959/60 roku śledczym udało się jednak nawiązać kontakt z Rudolfem Rederem – ostatnim żyjącym więźniem Bełżca, który po zakończeniu wojny wyemigrował do Kanady. Na przesłanych listownie zdjęciach Reder rozpoznał Oberhausera jako członka personelu Bełżca. W czasie bezpośredniej konfrontacji, do której doszło w Monachium w sierpniu 1960 roku, stwierdził jednak, że nigdy wcześniej nie spotkał tego człowieka. W rezultacie sąd uchylił wystawiony na Oberhausera nakaz aresztowania. Wkrótce zachodnioniemieccy śledczy dotarli jednak do innych członków załogi Bełżca. Większość z nich wciąż żywiła urazę do Oberhausera z powodu jego arogancji i zażyłych relacji ze znienawidzonym Wirthem. Zeznania byłych towarzyszy okazały się do tego stopnia obciążające, że w listopadzie 1961 roku sąd wyraził zgodę na jego aresztowanie.