Dziennikarz amerykański Georg Kennan, który w latach siedemdziesiątych XIX stulecia odbył podroż po Syberii, w swojej dokumentalnej książce "Syberia" kilkakrotnie wspomina o Florentym.
Po odbyciu kary zamieszkał jako "posieleniec" poza murami więzienia i odzyskał prawo do praktyki prywatnej. Zamieszkał w Tomsku na ulicy Milionnej 38 (dom ten istnieje do dziś). Za zgodą cara, Florenty w 1872 roku objął zarząd tomskich szpitali – przesyłowego i miejskiego, a w 1873 powierzono mu kierowanie szpitalnym oddziałem w więzieniu etapowym w Tomsku.
Z Heleną miał dwóch synów – Władysława i Bronisława, po którego urodzeniu 11 listopada 1870 Helena zmarła.
Po śmierci pierwszej żony, Florenty Orzeszko ożenił się z córką tomskiego lekarza, Łucją Pocałujewską. Dzięki staraniom państwa Orzeszków w Tomsku, powstały polskie czytelnie i biblioteki, Towarzystwo Dobroczynności, dom dla polskich sierot, a w ich domu odbywały się wieczory literackie i muzyczne.
Zmarł 9 marca 1905 roku w Tomsku i tam został pochowany na cmentarzu katolickim, który obecnie już nie istnieje.