Arbeitsamty były jednymi z pierwszych organów niemieckiej administracji cywilnej, które zaczęły funkcjonować na okupowanych ziemiach polskich. Początkowo prowadziły działalność niezależnie od siebie, a także niezależnie od administracji pracy w „starej Rzeszy”, współpracując jedynie z lokalnymi komendanturami Wehrmachtu.
W drugiej połowie października 1939 roku, po ostatecznym ukształtowaniu się struktur niemieckiej administracji cywilnej na okupowanych ziemiach polskich, Arbeitsamty stały się elementem okupacyjnej administracji pracy. W jednostkach administracyjnych, które utworzono na ziemiach wcielonych do Rzeszy, za całość spraw związanych z administracją pracy odpowiadały Krajowe Urzędy Pracy (od 1 sierpnia 1943 – Okręgowe Urzędy Pracy). Podlegały im Główne Urzędy Pracy (Hauptstelle), ulokowane w stolicach poszczególnych rejencji, oraz ich filie (Nebenstelle), tworzone w miastach powiatowych. Szefowie Krajowych Urzędów Pracy pełnili równolegle funkcję pełnomocników Powiernika Rzeszy do spraw Pracy (Der Bevollmächtigte des Reichstreuhänders der Arbeit).