Wynika stąd, że wyspa nie była zamieszkana przez kilka tysiącleci.

Wyspa była obserwowana przez różnych żeglarzy holenderskich od 1610 r., w tym Fredericka de Houtmana w 1619 r., oraz 3 statki: Waekende Boey, Elburg oraz Emeloort w 1658 r. Nazwę Rottnest nadał wyspie kapitan floty holenderskiej Willem de Vlamingh 29 grudnia 1696. De Vlamingh wierzył, że występujący tu torbacz, zwany kuoka, jest dużym szczurem. Nazwa wyspy oznacza zatem "szczurze gniazdo".

Kolejnymi odkrywcami, którzy zatrzymywali się na Rottnest, byli Francuzi z ekspedycji Nicholasa Baudina w latach 1801 i 1803, Phillip Parker King w 1822 r., oraz kapitan James Stirling w 1827 r. Zazwyczaj raportowali, iż wyspę porastają gęste lasy (w przeciwieństwie do stanu obecnego).

Odkąd ustanowiono brytyjską kolonię w Perth, na wyspę zaczęto wysyłać aborygeńskich więźniów (od sierpnia 1838). W lipcu 1839 sekretarz kolonii odnotował, że w celu spacyfikowania miejscowych plemion Rottnest stała się miejscem zsyłki dla Aborygenów. Ustalono, że na wyspie znajduje się co najmniej 369 grobów Aborygenów. Przez wyspę przewinęło się ok. 3700 aborygeńskich więźniów ze wszystkich części Australii.