W listopadzie 2008 Celeban został powołany do reprezentacji Polski przez selekcjonera Leo Beenhakkera na zgrupowanie w Turcji. W jego ramach wziął udział w towarzyskim meczu z Serbią, w którym zagrał w wyjściowym składzie, a w 56. minucie został zmieniony przez Jakuba Rzeźniczaka. W styczniu 2009 roku został desygnowany na mecz z Litwą. W pojedynku, który zakończył się remisem 1:1, wystąpił przez pełne 90 minut. W 2010 roku zagrał w spotkaniu z Bośnią i Hercegowiną, natomiast w 2011 wystąpił w meczu przeciwko Mołdawii.

Będąc już graczem FC Vaslui zawodnik zaczął regularnie otrzymywać powołania do reprezentacji Polski. Na początku 2013 znalazł się w kadrze na mecze z Rumunią (był jedynym zawodnikiem spoza ligi polskiej występującym w tym meczu) i później z Irlandią, gdzie nie zagrał ani minuty. Potem został powołany po raz pierwszy do reprezentacji na mecze o stawkę, czyli z Ukrainą i San Marino w eliminacjach mistrzostw świata 2014, gdzie podobnie jak w meczu przeciwko Irlandii nie wszedł na boisko. Kolejny mecz w kadrze rozegrał 14 sierpnia 2013 przeciwko Danii, gdzie w tym spotkaniu wszedł na boisko w 75.