En raison du délabrement des bâtiments, l'administration de l'Assistance publique décide en 1904 de démolir l'hôpital de la Pitié et de le reconstruire sur des terrains vacants de la Salpêtrière. Les travaux d'édification de la nouvelle Pitié commencent en février 1905 et s'achèvent au printemps 1911 tandis que l'ancienne Pitié demeure en activité, garantissant ainsi la continuité de l'activité hospitalière. La nouvelle Pitié accueille ses premiers patients le 29 juin 1911, boulevard de l'Hôpital dans le 13e arrondissement. La démolition de l'ancienne Pitié est autorisée en novembre 1911.