Charmes (carpini, Charmoe) est mentionnée dès 1194 dans un titre relatif à l’abbaye de Beaupré et portant confirmation par le duc Simon, de la donation du moulin de Charmes faite à cette abbaye par Mathieu, comte de Toul. La commune appartenait aux comtes de Toul.
En 1285, Les ducs de Lorraine, obtiennent des seigneurs de Charmes « les fiefs, forteresses et hommes de garde ». En 1471, le duc de Bourgogne occupe la commune voisine de Châtel-sur-Moselle. Charmes décide de riposter face à ce nouvel ennemi. En 1475, Charmes est malheureusement assiégée et brûlée et perd sa garnison, où les gardes sont condamnés par pendaison.
Une charte du duc René, du 23 mars 1486, portant érection d’une foire par an, nous apprend que Charmes est presque entièrement dépeuplée, et que ses murailles tombent en ruines. Pour subvenir à leur réparation, la ville est autorisée à percevoir un droit sur toutes les marchandises qui s’y vendent.
La ville fut à nouveau incendiée par le colonel Gassion vers 1637.
L’ancien château de Charmes, bâti vers le début du XIe siècle par les comtes de Toul fut en partie démantelé et démoli après le pillage de 1635 ; après le traité de Ryswick, le château, ses dépendances et les fossés furent convertis en jardins et acensés à divers particuliers.
Charmes fut longtemps le siège d’une prévôté dépendant du bailliage des Vosges. L’édit de 1751 instaure un bailliage, composé du bailli, du lieutenant général, du lieutenant particulier assesseur, de deux conseillers, d’un avocat procureur du roi et d’un greffier.
Le bailliage de Charmes, qui dépendait d’abord du diocèse de Toul, fut ensuite partagé entre ceux de Saint-Dié et de Nancy. Il était régi par la coutume de Lorraine, à l’exception du village de Vincey, qui était sous celle d’Épinal. La mesure des grains était le resal de Nancy. Les officiers de l’hôtel de ville étaient le maire royal chef de police, deux échevins, un échevin trésorier et un secrétaire greffier. Aujourd’hui Charmes fait partie de la communauté d’agglomération d’Épinal.
Au spirituel Charmes étaient annexe de Florémont et avait Rugney dans sa dépendance. La fondation de l’église remonte à la fin du XIIIe siècle.