Kościół i parafia istniały już w XV w. Patronat nad kościołem sprawowali właściciele miejscowych dóbr ziemskich a później królowie Prus. Po pierwszym kościele pozostała jedynie kamienna chrzcielnica. Kościół, znajdujący się w ruinie, rozebrano w 1841 r. Nowy kościół ewangelicki wybudowano w 1855 r. Szkoła parafialna istniała już w XVI w., w 1737 r. przeszła pod nadzór państwowy.
W 1785 r. we wsi było 27 domów, w 1838 – 31 domów i 286 mieszkańców. W 1840 r. w tutejszej parafii było 1587 Polaków i 242 Niemców. W latach 1901–1903 na 2770 parafian Polaków było 2170. W 1904 r. do dworu należało 68 włók, łącznie z folwarkiem Karczewiec i Tyszkowo. W tym czasie we wsi była również gorzelnia. W 1912 wśród parafian było zaledwie 400 osób polskiego pochodzenia (Mazurów). Po pierwszej wojnie światowej dwór przejęło państwo. 10 włok przeznaczono na rozparcelowanie, pozostałe 58 włók (w tym jezioro Stromek o pow. 153 ha) należało do domeny państwowej. Kościół katolicki wybudowano w 1928 r. W 1935 r. w tutejszej szkole pracował jeden nauczyciel a uczyło się 99 dzieci. W 1939 r. we wsi mieszkało 520 osób.
Po II wojnie światowej powstał PGR. W 1973 r. do sołectwa Rybno należały: Karczewiec PGR, osada Piłak (leśniczówka), Rybno (wieś i PGR), Tyszkowo PGR.