Wobec nowej sytuacji zdecydował się na przeniesienie stolicy diecezji do Olsztyna - Frombork bowiem znalazł się w nowych granicach na obrzeżu diecezji, a siedziba seminarium Braniewo uległo wielkim zniszczeniom (zrujnowany został m.in. zaledwie kilkunastoletni nowy budynek seminaryjny). Bensch sprowadził z ruin seminarium archiwalia i księgozbiór do Olsztyna, podejmując starania o wznowienie działalności. Udało mu się doprowadzić do otwarcia niższego seminarium w marcu 1946 oraz wyższego seminarium trzy lata później (17 października 1949).
Swoją siedzibą administrator Bensch uczynił plebanię kościoła św. Jakuba w Olsztynie, gdzie proboszczem był wcześniejszy wikariusz kapitulny diecezji Jan Hanowski. W ciągu kilkuletnich rządów Benscha tymczasowa kuria przenosiła się po Olsztynie - najpierw na ul. Mariańską, potem ul. Staszica, by powrócić na plebanię św. Jakuba. Na ul. Mariańskiej mieściło się seminarium (całe wyższe i część niższego), filie seminarium niższego - w Ornecie i Fromborku. Do grona bliskich współpracowników administratora zaliczało się kierownictwo seminarium - pierwszy rektor Józef Łapot, wicerektor Jan Obłąk, ojciec duchowny Antoni Jagłowski. Bensch, jako dawny profesor Katolickiego Uniwersytetu Lubelskiego, dbał o współpracę seminarium „Hosianum” z tą uczelnią, m.in.