Tłumaczył angielską i francuską poezję na język hebrajski. Jest autorem biografii, między innymi: Menahema Mendela Lefina, Efraima Zalmana Margoliota, Jehudy Lejb Ben Zewa. Stworzył satyryczne skecze dotyczące chasydyzmu. Niewiele z nich przetrwało; większość dzieł Byka spłonęła w pożarze w 1835 r. Zachowały się nieliczne prace, takie jak Hezjone hitul, a także listy zebrane w publikacji Kerem hemed i tłumaczenia poezji wydane w zbiorze Bikure ha-itim. Tuż przed II wojną światową zostały odnalezione również wczesne sztuki Byka, które kierował przeciwko ruchowi chasydzkiemuGedalyah Elkoshi, Bick, Jacob Samuel [w:] Encyclopaedia Judaica, red. Michael Berenbaum i Fred Skolnik, 2 ed. t. 3, Detroit: Macmillan Reference USA, 2007. 685. Gale Virtual Reference Library [Dostęp: 22 grudnia 2014]..
W 1815 r. wziął udział w głośnej dyskusji, jaka toczyła się wokół tłumaczenia Księgi Przysłów na jidysz przez Lefina, a którą zapoczątkował Tuwia FederNancy Sinkoff, Out of the Shtetl: Making Jews Modern in the Polish Borderlands, Hanower 2004, s.182.. Byk sprzeciwiał się typowej dla maskili gloryfikacji języka hebrajskiego. Zdaniem Byka Biblia powinna być powszechnie dostępna i zrozumiała;