według Jasienicy „obaj udali, że się nie znają”.
Od 1939 kierownik i zastępca sekretarza w wileńskim Instytucie Akcji Katolickiej. W okresie II wojny światowej, po zajęciu Wilna przez Sowietów, w 1940 był najpierw inicjatorem powstania polskojęzycznej „Gazety Ludowej”, którą następnie przekształcono w organ Komitetu Miejskiego Komunistycznej Partii Litwy – „Prawdę Wileńską”. Jej ostatni numer ukazał się 23 czerwca 1941.
W grudniu 1942 został skazany na karę śmierci przez podziemny sąd polskiej Armii Krajowej. Wyrok został ogłoszony w podziemnym organie wileńskiej AK „Niepodległość”, a w marcu 1943 przedrukowany przez warszawską podziemną gazetę „Samoobrona”.
W 1943 Chmielewski podjął współpracę z komunistycznym Związkiem Patriotów Polskich, które zleciło mu rozpracowanie szkoły podchorążych AK. W tym celu zlokalizował ustalił, że szkoła znajduje się przy 6. Brygadzie AK w okolicach Bieniakoń-Ejszyszek. Na początku czerwca dołączył do brygady i przez miesiąc prowadził działania wywiadowcze. Został zdekonspirowany i od sądu polowego uchroniło go jedynie nadejście Armii Czerwonej, do której wstąpił.