Pomimo intensywnej pracy politycznej często wyjeżdżał za granicę, w 1904 wyjechał na wakacje do Francji. Zamieszkał w Paryżu, gdzie przebywała także jego przyszła żona Maria Czaykowska (15 sierpnia 1878 – 8 czerwca 1963), malarka z Krakowa. Pobrali się 30 listopada 1907 roku w kościele Świętego Krzyża w Warszawie. Po ślubie Koziccy wyjechali ponownie na dwa lata do Paryża. Był tutaj wolnym słuchaczem Szkoły Nauk Politycznych, gdzie zaznajomił się z problematyką polityki międzynarodowej, która odtąd będzie przedmiotem jego publicystyki, zafascynował się także współczesną myślą narodową francuskiego filozofa, monarchisty i twórcy koncepcji nacjonalizmu integralnego, Charles’a Maurrasa.
W 1910 roku wrócił z Francji do Warszawy i wszedł w skład Komitetu Centralnego Ligi Narodowej i Zarządu Głównego Stronnictwa Demokratyczno-Narodowego. Otrzymał od Romana Dmowskiego stanowisko redaktora naczelnego „Gazety Warszawskiej”, które sprawował do 1915, a w „Przeglądzie Narodowym” zajmował się sprawami polityki międzynarodowej. Od 1914 do 1918 roku redagował „Gazetę Polską”.