Rodzicami Iwana byli Adam Stefan Mazepa Kołodyński, podczaszy czernihowski, szlachcic na urzędzie Rzeczypospolitej (zm. 1665) i Maryna z domu Mokijewska (1617–1707), szlachcianka z okolic Białej Cerkwi, po śmierci męża prawosławna przeorysza w Ławrze Peczerskiej pod imieniem Maria Magdalena.
Iwan Mazepa Kołodyński kształcił się w Kolegium Mohylańskim w Kijowie, kolegium jezuickim w Warszawie, za rekomendacją ojca został pokojowym Jana Kazimierza, który wysłał go celem kształcenia w podróż do Europy Zachodniej. Na dworze jego adwersarzem był Jan Chryzostom Pasek, który poświęcił Mazepie zjadliwe komentarze w swych Pamiętnikach. W latach 1659–1663 w służbie dyplomatycznej Rzeczypospolitej. W 1663 r. powrócił na Ukrainę naddnieprzańską w poselstwie, wiozącym buławę hetmańską Pawłowi Teterze, i otrzymał urząd podczaszego czernihowskiego, a także mocno podupadły majątek Mazepińce. W czasie walki o urząd hetmański związał się z obozem późniejszego hetmana Prawobrzeża, Petra Doroszenki. Na jego dworze pełnił funkcję dowódcy gwardii przybocznej, a następnie pisarza generalnego Prawobrzeża.