Miesiąc później wstąpił do konspiracyjnej organizacji Służba Zwycięstwu Polski, początkowo pracował jako robotnik w zakładzie zieleni miejskiej, a następnie w wywiadzie Inspektoratu Poznań Związku Walki Zbrojnej. W marcu 1940 powrócił do Grudziądza i w stopniu szeregowca kontynuował pracę wywiadowcy w Inspektoracie Grudziądz. Do marca 1941 pracował w składzie materiałów drzewnych, a następnie jako ładowacz węgla w porcie rzecznym. Działał w tajnym Towarzystwie Obrony i Powstania, w kwietniu 1942 został zmuszony pod groźbą rozstrzelania do wstąpienia do Wehrmachtu i w stopniu podporucznika wysłany do Belgii, gdzie wcielono go do wojsk okupacyjnych. Następnie przeniesiono go do Francji, wszędzie kontaktował się z ruchem oporu. W marcu 1944 zdekonspirowano Inspektorat ZWZ w Grudziądzu, Tadeusz Grygier zagrożony aresztowaniem poprosił francuski ruch oporu o przerzucenie go do Wielkiej Brytanii, ale spotkał się z odmową. Został aresztowany, był więziony w Berlinie, Bydgoszczy i Gdańsku. 7 lutego 1945 został skazany na karę śmierci, 20 lutego udało mu się uciec z więzienia. Został ciężko ranny, po zakończeniu wojny leczył się w Gdańsku i Toruniu, zagrożony aresztowaniem przez NKWD pieszo dotarł do Grudziądza.