W roku 1848, w wieku 11 lat, Rabinowicz opuścił Rezinę i zamieszkał z babcią (po ojcowskiej linii) Riwką w Orgiejowie. Tu kontynuował naukę z prywatnym nauczycielem Iosiem Kiwowiczem (zwolennikiem berszadzkiego chasyda, cadyka rebe Rafaela). Rabinowicz w Orgiejowie rozpoczął studium średniowiecznego mistycyzmu żydowskiego (Kabały).
Gdy skończył 16 lat, pod wpływem modernistycznej literatury (głównie w j. hebrajskim) zaczął przyjmować nowe, bardziej racjonalistyczne, poglądy i interpretacje, które stopniowo zastępowały światopogląd wpajany przez rabinów. W tym czasie po raz pierwszy zainteresował się chrześcijaństwem. Stało się to po otrzymaniu od kolegi, Jechiela Zebiego Herschensohna, Nowego Testamentu w hebrajskim tłumaczeniu. Pod wpływem Nowego Testamentu i rozmów z Herschensohnem (który przedstawił Kabałę i Zohar jako przeszkody w prawidłowym rozumieniu Pism i Proroków), Rabinowicz postanowił odejść od chasydzkiego mistycyzmu. Po opuszczeniu swojego nauczyciela i Orgiejowia, przeprowadził się do domu ojca w miejscowości Maşcăuţi (Rejon Criuleni) i całkowicie poświęcił się badaniu żydowskiej filozofii.