En 1791 le séminaire diocésain doit quitter ses imposants bâtiments, construits entre 1682 et 1707 sous l'impulsion de l'archevêque Phélypeaux de la Vrillière sur des plans de Pierre Bullet, et qui se voient reconvertis en caserne (l'actuelle cité administrative Condé). Prenant acte de l'échec des nombreuses démarches effectuées pour recouvrer le bâtiment, attribué à la ville en 1810, l'Archevêché y renonce provisoirement et prend la décision d'installer le Grand séminaire dans l'ancien couvent des Ursulines, bâti en 1639 rue des Arènes. Une ordonnance de 1821 affecte le bâtiment, utilisé comme caserne de gendarmerie depuis la Révolution, au séminaire diocésain qui s'y installe un an plus tard.

Après la loi de séparation de 1905, le Grand séminaire est de nouveau contraint de quitter les lieux, attribués au département en 1906. Dès 1910 celui-ci forme le projet d'y installer le palais de justice mais le bâtiment demeure vacant jusqu'en 1919, à l'exception de la brève période d'occupation par l'autorité militaire pendant la guerre. Après d'importants travaux de réaménagement, la cour d'appel et les tribunaux y sont transférés entre 1919 et 1923.