L'association est créée le 17 janvier 2001, par des archivistes, des historiens et des généalogistes, dans le but de sauvegarder et relancer une institution menacée principalement par la saturation de ses locaux sur le site parisien du Marais.

Dirigée par des historiens de renom, elle a pour présidents d'honneur Georgette Elgey et René Rémond (†2007), et pour présidente du conseil d'administration Annette Wieviorka. Par ailleurs, l'association publie en mai 2001 un manifeste, signé par plusieurs milliers de personnes, dans la revue "Historiens et géographes", et organise plusieurs colloques, notamment sur le devenir des Archives nationales.

En mars 2004, le gouvernement choisit le site de Pierrefitte-sur-Seine au nord de Paris, puis le bâtiment est imaginé par l'architecte italien Massimiliano Fuksas. La première pierre en est posée le 11 septembre 2009, par le Premier ministre François Fillon et Frédéric Mitterrand ministre de la culture et de la communication. Après sa construction, le nouveau site de Pierrefitte devient le plus grand centre d'archives européen ; il est inauguré le 11 février 2013 par le Président de la République François Hollande.

Conformément à ses statuts, une fois ses objectifs atteints, la construction et l'ouverture au public d'un nouveau bâtiment pour les Archives nationales, après 12 années d'existence l'association s'est autodissoute le 16 avril 2013 lors de son assemblée générale.