Miasto uzyskało oficjalnie swoją obecną nazwę w roku 1801 i pochodzi ona od nazwy pobliskiego potoku Rock Creek. Przez większość XIX wieku Rockville pozostawało niewielką osadą. Populacja wzrosła z ok. 200 w roku 1800 do ok. 400 w roku 1846. Przełomowe wydarzenie dla rozwoju miasta miało miejsce w roku 1873, gdy wybudowana została linia kolejowa łącząca miasto z Waszyngtonem. W roku 1900 Rockville liczyło 1110 mieszkańców i liczba ta wzrosła do 2047 w roku 1940. Prawdziwy rozwój miasta nastąpił jednak w okresie po II wojnie światowej.
Wraz ze wzrostem ludności miasta zmienił się także jego charakter. Z małej, rolniczej osady miasto zamieniło się w stosukowo kosmopolityczne miasto. Rząd federalny w Waszyngtonie jest największym pracodawcą dla mieszkańców Rockville, ale miasto jest również siedzibą znaczącego centrum badawczego i wielu znaczących przedsiębiorstw. W mieście znajduje się kilka zabytków wpisanych do narodowej listy miejsc o znaczeniu historycznym (ang. National Register of Historic Places), między innymi stary kościół i cmentarz przy rzymskokatolickiej parafii Świętej Marii, gdzie pochowany jest między innymi znany pisarz amerykański Francis Scott Fitzgerald.