A la suite de la création en 1926 du Comité international des sciences historiques (CISH ou International Comittee of Historical Sciences) est fondé le Comité français des sciences historiques (CFSH), déclaré le 21 mars 1927 à la préfecture de la Seine. Originairement sis 2, rue Montpensier, dans le 1er arrondissement de Paris, puis transféré 60, rue des Francs-Bourgeois, dans le 4e arrondissement (site de Paris des Archives nationales), son siège est actuellement installé 4, rue des Arènes, dans le 5e arrondissement. L'objet principal de l'association est de « concourir au travail historique ». Il s’agit d’assurer la représentation des historiens français auprès du CISH et dans les congrès internationaux, mais aussi d'organiser des colloques bilatéraux avec les historiens d'autres pays sur des thèmes d'intérêt commun en vue d'échanges d'expériences, notamment en matière de méthodologie et de confrontation des résultats de la recherche.

Le CFSH organise des congrès aux thématiques variées : « Charles Quint et son temps » en 1958, « Le temps où l’histoire se fit science » en 1985 ou, plus récemment, « l’État et le politique » en 2015. Il participe également à des échanges bilatéraux plus ou moins pérennes dans le temps : rencontres franco-soviétiques (à Paris en 1958, à Moscou en 1961 et à Erevan en 1969), franco-britanniques (à Dijon en 1964, à Birmingham en 1967), ou franco-espagnoles (à Madrid en 1965). Enfin, il prend part en lien avec le CISH à des congrès internationaux dont ceux tenus à Saragosse en 1959, à Stockholm en 1960, à Vienne en 1965, ou à Stuttgart en 1985.

En France, entre 1981 et 1983, le CFHS participe aux assises nationales de la recherche auprès du ministre de l'Éducation nationale lors de la préparation de la loi sur l'enseignement supérieur, à propos des thèses de doctorat, et sur la réforme de l'enseignement de l'histoire dans les différents degrés d'enseignement (écoles, collèges, lycées). Il intervient alors également sur la réforme du Comité des travaux historiques et scientifiques et du Congrès national des sociétés savantes.

À partir de 1986, en coopération avec la Société des professeurs d’histoire ancienne de l’Université (SoPHAU), la Société des historiens médiévistes de l’Enseignement supérieur public (SHMESP), l’Association des historiens modernistes des Universités (AHMUF) et l’Association des historiens contemporanéistes des Universités françaises (devenue Association des historiens contemporanéistes de l’enseignement supérieur et de la recherche, AHCESR), le CFSH constitue un jury qui décerne un prix national pour récompenser la meilleure thèse due à un jeune historien. En outre, à l’occasion des « Rendez-vous de l’Histoire » tenus à Blois, le CFSH organise une table ronde dans une démarche diachronique, afin de respecter toutes les périodes et disciplines historiques qu’il représente.

Le 29 juillet 2019, le nouvel objet du CFSH est déclaré à la préfecture de Paris : « établir un lien entre les historiens français voués à l’enseignement et à la recherche afin, notamment, de promouvoir la place de l’histoire dans l’enseignement et la recherche ; assurer la participation de la France aux réunions et aux congrès internationaux des sciences historiques ; organiser des congrès nationaux des sciences historiques ; prendre les initiatives nécessaire à l’application en France des résolutions et des recommandations de ces congrès nationaux et internationaux ; favoriser l’organisation, le développement et la diffusion de la rechercher historique en France ; fournir un cadre de réflexion à tout membre individuel intéressé par les sciences historiques ».

Ainsi il apparaît que le CFSH représente l’ensemble des historiens français au sein des établissements d’enseignement supérieur, de recherche ou de conservation, des associations professionnelles ou des fédérations de sociétés savantes, chacun de ces organismes élisant un délégué à l’assemblée générale de l’association. Cette dernière choisit pour cinq ans les trente membres composant la commission permanente qui élisent à leur tour le bureau, dont le mandat quinquennal coïncide avec les congrès internationaux.

La présidence du CFSH est successivement assurée par Gustave Glotz (1926-1929), Alfred Coville (1929-1940), Charles Petit-Dutaillis (1945-1946), Robert Fawtier (1946-1952), Lucien Febvre (1952-1956), Yves Renouard (1956-1965), Jean Schneider (1965-1971), Roland Mousnier (1971-1975), Michel Devèze (1976-1980), René Girault (1980-1980), Robert Henri Bautier (1981-1985), Paul Gerbod (1986-1990), Yves-Maries Bercé (1991-1995), Michel Balard (1996-2000), Jean-François Sirinelli (2000-2017) et Dominique Barjot (2017-….).