W 1986 roku Throstvedt wyjechał do RFN do zespołu Borussii Mönchengladbach. W Bundeslidze swój pierwszy mecz zaliczył 18 marca przeciwko SV Waldhof Mannheim, w którym Borussia zremisowała 1:1. Natomiast w kwietniowym spotkaniu z Borussią Dortmund (2:1) dostał czerwoną kartkę. W lidze rozegrał 9 spotkań i zajął 4. pozycję w lidze, ale już w sezonie 1986/1987 po trzech kolejkach stracił miejsce w składzie na rzecz Uwe Kampsa i w trakcie sezonu odszedł do szwedzkiego IFK Göteborg i przyczynił się do zdobycia wicemistrzostwa Szwecji.
Na początku 1989 roku Thorstvedt trafił do Anglii i podpisał kontrakt z londyńskim Tottenhamem Hotspur. Kosztował 400 tysięcy funtów, a fani klubu ochrzcili go przydomkiem „Erik the Viking”. W Division One Norweg zadebiutował 15 stycznia w spotkaniu z Nottingham Forest, przegranym przez Tottenham 1:2. Debiut nie był udany – piłka po strzale Nigela Clougha prześlizgnęła się przez ręce Erika i wpadła do bramki. Thorstvedt wywalczył jednak miejsce w podstawowym składzie „Spurs” i wygrał rywalizację z wychowankiem Ianem Walkerem. W swoim pierwszym sezonie zajął z Tottenhamem 6. miejsce w Division One, a w 1990 roku – miejsce trzecie. W 1991 roku zdobył Puchar Anglii i stał się pierwszym Norwegiem w historii, który sięgnął po to trofeum.