Après avoir été rattachée à différents ministères depuis sa création en 1800, la direction des Beaux-Arts (comprenant les Monuments historiques à partir de 1839) se stabilise sous la tutelle du ministère de l’Instruction publique dès le 5 septembre 1870.

Toutefois, les Monuments historiques, ainsi que les Beaux-Arts, seront transférés de façon temporaire au ministère des Arts. Ce dernier, créé en le 14 novembre 1881 par Léon Gambetta et confié à Antonin Proust, est supprimé le 26 janvier 1882. Le service des Monuments historiques est alors rattaché à une direction de la Conversation. À partir du 30 janvier 1882, les compétences Beaux-Arts retournent au ministère de l’Instruction publique.

Le service des Monuments historiques prend de l’importance dans les années 1870 à 1890 : la sous-commission des monuments mégalithiques est instituée par Jules Ferry en 1879 et elle est composée de 9 archéologues. Des corps spécialisés apparaissent également : en 1892 avec les architectes en chef des monuments historiques, puis en 1897 avec les architectes ordinaires.

La loi du 30 mars 1887 vient pallier en partie un vide juridique. Elle porte sur la conservation des monuments et des objets d'art qui représentent un intérêt national (d’art ou d’histoire uniquement). La loi officialise le classement qui avait été alors jusque-là pratiqué de façon indicative par la commission des Monuments historiques.

Suite à la loi du 9 décembre 1905 relative à la séparation des Églises et de l’État , le service des monuments historiques se trouve élargi en fusionnant le service des édifices cultuels en 1907. Le service des monuments historiques récupère alors la gestion des édifices cultuels construits avant 1905.