Le Comité Pierre de Coubertin a été fondé par Alfred Rosier, chef de Cabinet du Ministre des Sports de Jean Zay jusqu'en 1939, puis, Après-guerre, directeur de la main-d'œuvre au Ministère du Travail ; Jean-François Brisson, professeur de Droit à l'Université de Bordeaux ; et Pierre Rostini, journaliste au Figaro et directeur de publication.
Créé le 3 août 1950, à Paris, avec l'accord d'Yvonne de Coubertin, nièce du rénovateur des Jeux Olympiques, le Comité Pierre de Coubertin s'attache à faire connaître dans son ensemble l'œuvre de Pierre de Coubertin, d'en dégager et propager les enseignements d'ordre moral et pédagogique; d'encourager le développement et la pratique saine du sport, des activités physiques et de plein air ; de réfléchir et de faire connaître des propositions à leur sujet selon les idéaux définis par Pierre de Coubertin.
En 1954, le comité comprend 78 membres et compte quelques grandes personnalités issues pour la plupart du milieu sportif, médical, administratif et militaire. Le Comité change une première fois de nom pour devenir le Comité Pierre de Coubertin France. Puis, en 1973, deux ans avant la création du Comité International Pierre de Coubertin, le Comité devient le Comité Français Pierre de Coubertin. à la création du CIPC, le Comité Français Pierre de Coubertin rappellera à M. de Navacelle que le comité fondateur de France souhaite conserver sa part « légitime d'autorité doctrinale, morale et intellectuelle ».
À partir des années 1980, le Comité loin de devenir « une chapelle du souvenir du rénovateur des Jeux Olympiques » comme s'en défend son président, Pierre Comte-Offenbach, il s'érige en cercle de réflexion et d'étude du sport contemporain. Par la voix de son président, le comité déclare lors de son trentième anniversaire : « Nous sommes les gardiens de la flamme rallumée par un grand humaniste. »