Na początku lat 60. XIX w. napisał pierwsze rozdziały częściowo autobiograficznej powieści, która miała okazać się jego największym dziełem, Zapiski jewrieja (Wspomnienia żyda). Bogrow bezskutecznie poszukiwał wydawcy, aż zainteresował się nim Nikołaj Niekrasow, redaktor wpływowego pisma literacko-społecznego „Otieczestwiennyje zapiski”. Niekrasow zachęcił Bogrowa do kontynuowania pracy nad powieścią, wprowadził do niej poprawki stylistyczne i opublikował w swoim piśmie w latach 1871-1873. W 1874 ukazało się pierwsze wydanie książkowe Zapisków jewrieja, a w 1880 tłumaczenie na język niemiecki (Memoiren eines Juden), dzięki czemu powieść zyskała odbiór w Europie Zachodniej. W samej Rosji książka spotkała się z pozytywnym przyjęciem, będąc jednym z pierwszych opisów ortodoksyjnej społeczności żydowskiej, który trafił do głównego nurtu rosyjskiej literatury. Środowiska żydowskie miały bardziej ambiwalentny stosunek do twórczości Bogrowa, w której krytykował niektóre tradycje i obyczaje, przez co bywał nazywany samo-nienawidzącym się żydem.