Po III rozbiorze Polski od 1795 w zaborze pruskim. W 1800 roku Grajewo liczyło 23 domy i 218 mieszkańców. Od 1807 w granicach polskiego Księstwa Warszawskiego, a następnie w 1815 weszło w skład Rosji, jako część tzw. Królestwa Kongresowego. W 1818 założono fabrykę świec i mydła. Odbywały się rocznie 4 jarmarki. Handlowano głównie bydłem i końmi oraz wyrobami bednarskimi. Powstała ulica Nowa, a po zbudowaniu w latach 1828–1829 traktu petersburskiego, wytyczona i zabudowana została ulica Augustowska. Około 1850 liczba ludności wzrosła do około 1917 osób. Grajewo posiadało stację pocztową, komorę celną, szkołę elementarną, rzeźnię i wiele zakładów rzemieślniczych. W 1864 r. przez małżeństwo Anny Wilczewskiej z Janem Stanisławem Woyczyńskim miasto przeszło w posiadanie Woyczyńskich. W 1870 roku, w ramach represji po powstaniu styczniowym, decyzją administracji carskiej, Grajewo utraciło prawa miejskie.
W 1873 r. wybudowano kolej żelazną Brześć-Królewiec. Miejscowość rozwijała się szybko. Domy powstawały wzdłuż torów kolejowych oraz wzdłuż ulic będących przedłużeniami głównych szlaków komunikacyjnych.