los entusiastas delegados decidieron no esperar hasta 1900, el año que se consideraba apropiado para comenzar a computar las Olimpiadas, sino que programaron el evento para el año de 1896, en Atenas, cerca de la sede de las Olimpiadas antiguas. Se acordó que los Juegos se celebrarían cada cuatro años, cambiándose la sede a diferentes ciudades importantes del mundo y que se elegiría un Comité Olímpico Internacional con plena autoridad para regir los Juegos.

El 23 de junio de 1894 se creó el Comité Olímpico Internacional (COI), con sede en Lausana (Suiza), integrado por representantes de doce países:

1.  Austria-Bohemia (Jiri Guth-Jarkovsky)
2.  Argentina (José Benjamín Zubiaur)
3.  Bélgica (Maxime de Bousies)
4.  Estados Unidos (William Sloane)
5.  Francia (Ernest F.Callot y Pierre de Coubertin)
6.  Grecia (Demetrius Vikelas)
7. Gran Bretaña (C. Herbert Ampfhill y Charles Herbert)
8.  Hungría (Ferenc Kemény)
9.  Italia (Mario Luccesi Palli y Andria Carafa)
10.  Nueva Zelanda (Leonard A. Cuff)
11.  Rusia (Alexei General de Boutowsky)
12.  Suecia (Viktor General Balck).

Demetrius Vikelas, un griego que había figurado en la organización de los primeros intentos por revivir los Juegos Olímpicos, fue el primer presidente del Comité Olímpico Internacional. El sueño de Zappas, y posteriormente de Coubertin, se había hecho realidad.

En la reunión ordinaria del Consejo Ejecutivo del Comité Olímpico Internacional en agosto de 2002 se aprueba la "Regla de los Cinco Anillos" para su entrada en vigor en los Juegos Olímpicos de Pekín 2008. Esta regla promueve la interdisciplinaridad de los diferentes Comités Olímpicos Nacionales. Por ello, se aprobó que el país que consiguiera la clasificación para cuatro de los cinco deportes: fútbol, baloncesto,balonmano, hockey sobre césped y voleibol, conseguiría la clasificación automática para el quinto deporte restante sin tener que lograr ningún mérito más.