U schyłku życia planował napisanie obszernych pamiętników. Zamiaru tego nie zdołał zrealizować, opublikował jedynie w 1897 w „Gazecie Warszawskiej” Garść wspomnień (o poznanych w Paryżu emigrantach – Norwidzie, Stanisławie Kątskim, Leonardzie Rettelu) oraz Wspomnienie o Józefie Korzeniowskim, a w „Biesiadzie Literackiej” – Wspomnienie o Chopinie. Ponadto zamieszczał w prasie poezje liryczne i satyryczne oraz fragmenty utworów dramatycznych (głównie w „Echu Muzycznym, Teatralnym i Artystycznym” oraz „Przeglądzie Tygodniowym”). W rękopisie pozostawił dramat w trzech aktach Helena (1858).

Pasją Siwińskiego były szachy. Już w okresie powstania styczniowego, kiedy był krytykowany jako członek Rządu Narodowego, oponenci zarzucali mu zbytnią namiętność do gry, odrywającą od problemów politycznych. W opinii Jana Kleczyńskiego należał do najsilniejszych graczy Warszawy w latach 60. XIX wieku. Zainteresowanie szachami utrzymywał i na emigracji w Paryżu, i po powrocie do kraju w latach 80.;