Issu d’une vieille famille normande - son père Étienne Antoine Faye (1726-1802) est procureur du roi et avocat au Parlement, receveur des revenus de la manse abbatiale de l'Abbaye-aux-Hommes de Caen et des terres normandes de la Sainte-Chapelle de Paris - Hervé-Charles-Antoine Faye (1763-1825) naît à la Haye-du-Puits (Manche) le 30 décembre 1763. Il peut, avant que sa famille soit ruinée par la Révolution, entrer à l’École des Ponts et Chaussées. Il en sort en 1791 pour occuper les fonctions d’ingénieur à Mortagne où il est un temps incarcéré, puis à Caen, en 1795, où l’un de ses condisciples, Girard, vient lui proposer d’accompagner comme ingénieur l’expédition d’Égypte. Il participe à des travaux de génie pour la réalisation de canaux, la mise en place de citernes et de machines à eau, l'exploration d'édifices antiques comme les vestiges de bains à Alexandrie ou des tombeaux aux environs de Rosette. Il prend part à la confection de la carte topographique de la vallée du Nil. Il travaille au raccordement du canal d'Alexandrie avec le Nil avec Louis Victor Bodard et Gaspard de Chabrol pendant une grande partie de l'année 1799. Leur travail fait l'objet d'une présentation à l'Institut d'Égypte le 22 décembre. Il fait partie ensuite de la commission chargée de l'hygiène d'Alexandrie et de sa canalisation intérieure. Il participe à la publication de la monumentale Description de l’Égypte pour laquelle il fournit vingt-sept gravures (« Expériences faites sur le produit de quelques-unes des machines employées à l’arrosage des jardins et au remplissage des citernes à Alexandrie », dans Description de l’Égypte, État Moderne, Paris, Imprimerie nationale, 1812, t. II, p. 782-783).

Sa carrière le conduit ensuite à Saint-Quentin (Aisne), où il participe à la construction du canal de l’Aisne, puis à Anvers. Ingénieur en chef du département de l’Indre en 1806 (Châteauroux, Le Blanc), il se fixe à Saint-Benoît-du-Sault, où il s’intéresse à la naissance d'une « école mutuelle », destinée aux pauvres et qui se voulait laïque et gratuite. Il y meurt le 3 octobre 1825.

De son mariage en 1813 avec Jeanne Euphrasie Dubrac, il a trois enfants dont Hervé (1814-1902), astronome, qui devient ministre de l’Instruction publique dans le cabinet Rochebouet (1877), puis président de l’Académie des sciences.