Zimą 1941/42 przebywał często w Lublinie, prawdopodobnie uczestnicząc w opracowaniu planów nowego ośrodka zagłady, tj. obozu w Sobiborze. W marcu 1942 roku osobiście udał się do Sobiboru, aby nadzorować prace budowlane. Miejscowym kolejarzom nakazał pod groźbą kary śmierci, aby utrzymywali „należyty porządek w okolicy” i nie interesowali się zbytnio tym, co jest budowane w pobliskim lesie. Obóz budowali żydowscy robotnicy przymusowi, których sprowadzono z sąsiednich gett. Podczas pracy byli brutalnie bici i nierzadko zabijani. Według Ericha Fuchsa jeszcze przed formalnym uruchomieniem obozu Thomalla uczestniczył próbnym zagazowaniu kilkudziesięciu żydowskich kobiet. W Sobiborze przebywał co najmniej do końca kwietnia 1942 roku.
Kolejnym obozem zagłady, którego budową kierował, była Treblinka. Roboty rozpoczęły się tam 1 czerwca 1942 roku i trwały do 11 lipca. Wszystkie prace były wykonywane przez żydowskich robotników z gett w Węgrowie i Stoczku Węgrowskim oraz przez polskich więźniów z pobliskiego obozu pracy. W czasie, gdy Thomalla nadzorował budowę obozu, jego podwładni nieustannie maltretowali i mordowali żydowskich robotników. Ofiary katowano na śmierć, rozstrzeliwano w zbiorowych i indywidualnych egzekucjach, a nawet celowo przywalano pniami ściętych drzew.