Jako jeden z pierwszych weteranów akcji T4 został skierowany do okupowanej Polski, aby wziąć udział w eksterminacji Żydów. Na początku 1942 roku rozpoczął służbę w obozie zagłady w Bełżcu. Już w kwietniu tegoż roku został jednak przeniesiony do obozu zagłady w Sobiborze. Według Ericha Fuchsa jeszcze przed jego formalnym uruchomieniem uczestniczył próbnym zagazowaniu kilkudziesięciu żydowskich kobiet. Później służył jako „kasjer” w tzw. obozie II. Jego zadaniem było odbieranie ofiarom złota, pieniędzy i kosztowności do rzekomego „depozytu”. Według Chrisa Webba przez pewien czas pełnił funkcję zastępcy komendanta Sobiboru.
Latem 1942 roku masowe groby w Sobiborze uległy przepełnieniu, na skutek czego w okolicy zaczął rozchodzić się fetor rozkładających się zwłok, a obozowym studniom zagroziło zatrucie. Zapadła wówczas decyzja o wydobyciu i spaleniu wszystkich ciał. Najprawdopodobniej akcją tą kierował Floss. Wkrótce stał się ekspertem akcji „Reinhardt” do spraw kremacji ludzkich zwłok. Zimą 1942/43 przebywał w obozie zagłady w Bełżcu, pomagając tamtejszej załodze w ekshumacji i spaleniu blisko 450 tys. zwłok. Wiosną 1943 roku w tym samym celu został wysłany do obozu zagłady w Treblince. Pod jego nadzorem wzniesiono tam sześć rusztów spaleniskowych zbudowanych z szyn kolejowych, na których jednorazowo można było spalić 12 tys.