L'abbaye est fondée en 1219 sur la paroisse Saint-Georges de Celles (commune de Saint-Georges-sur-Baulche), suite à la donation conjointe de l'évêque d'Auxerre, Guillaume de Seignelay, et d'un chanoine de Notre-Dame de la Cité d'Auxerre. Rapidement, des moniales venues de Saint-Antoine-des-Champs, dans le diocèse de Paris, s'installent sur le site. Les donateurs ont la volonté de placer la communauté sous la protection de l'ordre cistercien et dans la juridiction de l'abbé de Pontigny ; la date exacte de son incorporation dans l'ordre reste inconnue. Suite à une importante donation de la comtesse d'Auxerre, Mahaut, la communauté quitte son site primitif pour s'installer sur quatre îles, à proximité de l'Yonne, à Orgelaine-sur-Yonne (commune de Monéteau). Malgré des donations régulières, les premières difficultés financières apparaissent dès la fin du XIIIe s. ; elles sont amplifiées par les ravages de la guerre de Cent-Ans. En 1399, un projet voit le jour de disperser la communauté et d'en annexer les revenus aux biens de l'abbaye de Pontigny ; il est rapidement abandonné. La première moitié du XVIIe siècle marque la réforme définitive de l'établissement. Hélène Boucherat, abbesse de la communauté, sollicite l'aide de l'abbaye du Port-Royal et se place sous la juridiction de l'évêque d'Auxerre. Les religieuses quittent le site d'Orgelaine pour s'installer à Auxerre, paroisse saint-Loup, le 25 août 1636. Le 6 septembre suivant, elles investissent leurs bâtiments définitifs, paroisse Notre-Dame-la-d'Hors ; le transfert est approuvé par le Chapitre général le 15 mai 1637. Après un long conflit entre l'évêque d'Auxerre et l'ordre cistercien pour le contrôle de la communauté, un bref pontifical de 1655 soumet l'abbaye à la juridiction de l'évêque, et place les religieuses dans l'ordre des bernardines.