La Commission des monuments historiques puise ses origines dans une première "commission des monuments" qui se réunit le 8 novembre 1790 : composée de 10 sections, elle regroupe des savants qui donnent leur avis sur la vente ou le recueil des livres, monuments, chartes, et autres objets scientifiques.

Le 29 septembre 1837, Jean Vatout, président du Conseil des bâtiments civils, remet un rapport à Montalivet, ministre de l'Intérieur, dans lequel il propose "de nommer une commission pour l'examen des travaux à faire aux monuments historiques". La Commission des monuments historiques nouvellement créée est placée le 7 octobre 1837 au sein de la direction des monuments publics du ministère de l'Intérieur et Vatout en devient son premier président : elle est chargée d'assister l'Inspecteur général des Monuments historiques et le bureau des Monuments historiques. À sa création, la mission de la Commission est de répartir les subventions au profit des édifices protégés. La circulaire du 9 février 1841 détaille ses activités : la Commission examine les demandes de subventions, liste les édifices, donne son avis, et peut proposer l'achat d'un édifice. Les interventions sont effectuées par des architectes et un réseau de correspondants issus de sociétés savantes.

La Commission se réunit pour la première fois en mars 1838 et une première liste de monuments classés est publiée en 1840.

La Commission des monuments historiques est composée de membres de droit et de membres nommés. Elle prend peu à peu de l'importance et s'agrandit au cours du XIXème siècle. Des sections et sous-commissions sont ponctuellement créées et rattachées à la Commission. La sous-commission des monuments mégalithiques voit le jour en 1879 suite à un arrêté de Jules Ferry. L'arrêté du 9 janvier 1909 la place au sein de la Commission des monuments historiques où elle devient la section des monuments préhistoriques.

La première moitié du XXème siècle est marquée par de nombreuses réformes pour les monuments historiques. Suite à la loi du 9 décembre 1905 relative à la séparation des Églises et de l’État, le service des monuments historiques est réorganisé entre 1906 et 1914. La Commission des monuments historiques se trouve elle aussi réformée par le décret du 17 mai 1909 qui établit trois sections : les monuments historiques (20 membres), les monuments préhistoriques (15 membres), les antiquités et objets d'art (10 membres).

La Commission s'enrichit de nouvelles sections tout au long du siècle, dont certaines n'ont qu'une existence temporaire : vestiges et souvenirs de guerre (1920), fouilles et antiquités classiques (1933), abords des immeubles classés (à partir de 1963), instruments de musique et orgues historiques (à partir de 1968), patrimoine mobilier industriel scientifique et technique (1985).

En 1950, la Commission devient la Commission supérieure des monuments historiques, puis en 2007 elle prend le titre de Commission nationale des monuments historiques. Organisée en six sections depuis 2007, elle est chargée d’émettre un avis sur les propositions de classement, d’inscription parmi les monuments historiques, sur les modifications des périmètres des monuments classés mais également sur les travaux de conservation, de protection et de mise en valeur des monuments historiques et de leurs abords.