Narodowi socjaliści zmuszali Żydów do usuwania antyhitlerowskich haseł z domów i ulic lub oznaczania żydowskich sklepów antyżydowskimi hasłami w upokarzających „szorowaniach” przy aplauzie licznych gapiów. 26 sierpnia 1938 roku w Wiedniu utworzono Centralny Urząd Emigracji Żydów. Na czele organizacji stał esesman Adolf Eichmann, który został przydzielony do Wiednia przez Wydział Żydowski Sicherheitsdienst (SD), którego zadaniem było koordynowanie i popieranie emigracji Żydów. Do końca 1939 roku, pod naciskiem Eichmanna, ponad 100 000 Żydów opuściło swoją ojczyznę i pozostawiło swój majątek, a do 1941 roku kolejne 30 000.
Od samego początku prześladowania dotknęły również Sinti i Romów mieszkających w Austrii, a także przeciwników politycznych nazistów, takich jak socjaldemokraci, socjaliści i komuniści, ale także chrześcijańscy socjaliści i monarchiści. Tym, którzy nie chcieli lub nie mogli emigrować na czas groziło aresztowanie, wieloletnie więzienie lub śmierć. Pierwsi więźniowie z Austrii zostali przeniesieni do obozu koncentracyjnego w Dachau 1 kwietnia 1938 roku, w tym artyści tacy jak pisarz , znany wówczas artysta kabaretowy , librecista i kompozytor Fritz Löhner-Beda i pisarz . Od sierpnia 1938 roku więźniowie przetrzymywani byli także w nowo wybudowanym obozie koncentracyjnym w Mauthausen koło Linzu.