Il est né au château de Rossignol, dans la commune de Chalagnac, qui était entré dans sa famille par le mariage, en 1831, de son père, Louis-Grégoire Agard de Rouméjoux, avec Madeleine Angélique Clotilde de Fayard (1811-1895). Anatole de Rouméjoux est le neveu de Louis Côme Agard de Rouméjoux.
Après avoir commencé ses études au petit collège d'Azerat, il les a terminées à Poitiers. Il a alors commencé à s'intéresser à l'histoire de son pays natal en rédigeant des monographies d'hommes illustres dans Le Chroniqueur du Périgord et du Limousin : Lagrange-Chancel, Cyrano de Bergerac, Alain de Solminhiac, ... et des études sur quelques faits historiques. Quand Le Chroniqueur du Périgord et du Limousin a disparu, il a écrit dans les Annales de la Société d'agriculture, sciences et arts de la Dordogne.
C'est en 1858, au Congrès archéologique de France, à Périgueux qu'il a rencontré Arcisse de Caumont qui l'a encouragé à s'intéresser à l'archéologie monumentale. En 1864, il succède à Félix de Verneilh comme inspecteur de la Société française d'archéologie pour la Dordogne. Il est devenu un collaborateur du Bulletin monumental et a participé à tous les Congrès archéologiques de France.
Il s'est marié en 1864 avec Marie de Garrigues de Flaujac (1842-1937), d'une ancienne famille du Quercy. Il a eu de son mariage une fille, Marguerite Agard de Rouméjoux (1865-1931) avec Félix de Fayolle de Tocane (1859-1923), frère de Gérard de Fayolle de Tocane (1851-1933), marquis de Fayolle, qui lui a succédé à la présidence de la Société historique et archéologique du Périgord.
« Notes sur un souterrain-refuge à Chanlebout (commune de Chalagnac) », dans Annales agricoles et littéraires de la Dordogne, 1869, tome 30, p. 315-318(lire en ligne)
« Fouille d'un tumulus à Chalagnac », dans Annales agricoles et littéraires de la Dordogne, 1869, tome 30, p. 1136-1141(lire en ligne)
« Lettre au rédacteur sur la situation actuelle », dans Annales agricoles et littéraires de la Dordogne, 1870, tome 31, p. 1009-1012(lire en ligne)
Essai de bibliographie périgourdine, Librairie de J. Chollet imprimeur-éditeur, Sauveterre, 1882 (lire en ligne)
« Notre-Dame-de-Saux et Montpezat (Tarn-et-Garonne) », dans Bulletin monumental, 1885, tome 51, p. 202-210(lire en ligne)
« Fouilles de la tour de Vésone à Périgueux en 1894 », dans Bulletin monumental, 1895, tome 60, p. 43-47(lire en ligne)
« Espagnac (Lot) », dans Bulletin monumental, 1895, tome 60, p. 29-36(lire en ligne)
« Bijoux de Mme des Bories (1581) », 1893, tome 20, p. 319-320(lire en ligne)
« Sixième excursion archéologique (12 et 13 juin 1893) », 1893, tome 20, p. 381 (lire en ligne)
« Note sur la crypte de l'église de Saint-Astier », 1894, tome 21, p. 289-295(lire en ligne)
« Note sur la prise de Bergerac le 24 août 1345 », 1894, tome 21, p. 407-412(lire en ligne)
« Septième excursion de la Société historique et archéologique du Périgord », 1894, tome 21, p. 478-491(lire en ligne)
« Fouilles de la tour de Vésone (avril 1894) », 1895, tome 22, p. 187-194(lire en ligne)
« L'autel de la crypte de Saint-Astier », 1895, tome 22, p. 283-288(lire en ligne)
« Huitième excursion archéologique, 1er et 2 juillet 1895 », 1895, tome 22, p. 366-378(lire en ligne)
« La collégiale de Saint-Astier », 1896, tome 23, p. 108-113(lire en ligne)
« Congrès archéologique du 3 au 11 juin 1896 », 1896, tome 23, p. 303-308(lire en ligne)
« Le château du Claud », 1896, tome 23, p. 346-347(lire en ligne)
avec le marquis de Fayolle, « Neuvième excursion archéologique », 1896, tome 23, Modèle:406-425 (lire en ligne)
« L'église de Sergeac », 1897, tome 24, p. 93-95(lire en ligne)
« Congrès archéologique Nîmes et Avignon 18-25 mai 1897 », 1897, tome 24, p. 346-350
« Excursions de la société des 28 et 29 juin 1897 », 1897, tome 24, p. 381-388(lire en ligne)
« Martial Delpit, député à l'Assemblée nationale. Journal et correspondance avec portrait, par P.-B. des Valades », 1898, tome 25, p. 69-71(lire en ligne)
« Notes sur les Dalvy, imprimeurs-libraires, à Périgueux, Tulle et Cahors », 1898, tome 25, p. 377-383(lire en ligne)
« Onzième excursion archéologique 28 et 29 juin 1898 », 1899, tome 26, p. 49-62(lire en ligne)
« Douzième excursion archéologique. Hautefort, Brive, Padirac, Roc-Amadour, 10 et 11 juillet 1899 », 1899, tome 26, p. 510-520(lire en ligne)
« Siorac de Ribérac », 1900, tome 27, p. 51-52(lire en ligne)
« Extrait des Olim: Incendie du Moustier d'Augignac; démêlés entre Geoffroy de Pons et l'évêque de Périgueux », 1900, tome 27, p. 242-245(lire en ligne)
« Congrès archéologique d'Agen, 11-18 juin 1901 », 1901, tome 28, p. 650-656(lire en ligne)
« Excursion archéologique des 15 et 16 juillet 1901, Savignac-Lédrier, Ségur, Arnac, Lubersac », 1901, tome 28, p. 777-785(lire en ligne)
Maïté Etchechoury, « Portraits d'archéologues périgourdins du XIXe siècle : Anatole de Rouméjoux », dans Dessiner le patrimoine. Archéologues en Périgord du XVIIIe siècle à nos jours, Conseil départemental de la Dordogne/Ville de Périgueux, Périgueux, 2017, p. 58-65, (ISBN978-2-86024-025-3)
Jean-Marie Barbiche, « Périgueux en dessins au XIXe siècle : rôle archéologique et charge symbolique - Périgueux en dessins chez Verneilh et Rouméjoux », dans Dessiner le patrimoine. Archéologues en Périgord du XVIIIe siècle à nos jours, Conseil départemental de la Dordogne/Ville de Périgueux, Périgueux, 2017, p. 100-105, (ISBN978-2-86024-025-3)