Przy wyborze organizatora pierwszej olimpiady brane były pod uwagę różne miasta. Pierwotnie Pierre de Coubertin chciał, by „spotkanie olimpijskie” odbyło się w 1900 w Paryżu w trakcie wystawy światowej. Inni członkowie komitetu obawiali się jednak, że długie oczekiwanie na olimpiadę sprawi, że entuzjazm dla jej organizacji wygaśnie. Dlatego też ostatecznie postanowiono zorganizować ją w 1896. Proponowane było zorganizowanie igrzysk w Londynie i w Budapeszcie, jednak po rozmowie Coubertina z Wikielasem zaproponowano, by igrzyska odbyły się w Atenach i Wikielas wysunął oficjalnie stolicę Grecji jako kandydaturę na organizację olimpiady i zyskała ona jednogłośne poparcie. Kongres sorboński z 1894 utworzył Międzynarodowy Komitet Olimpijski, a Wikielas został jego pierwszym przewodniczącym.
Organizacja thumb|Współczesna panorama stadionu Panathinaiko Wybór Aten na organizatora olimpiady, co miało symbolizować powrót do źródeł olimpizmu, został dobrze przyjęty przez grecką opinię publiczną i media. Coubertin potwierdził, iż król Jerzy I i książę Konstantyn obejmą honorowy patronat nad zawodami. Ten drugi miał objąć dodatkowo stanowisko honorowego przewodniczącego komitetu olimpijskiego.