Une première église en bois a probablement servi aux premiers temps de la communauté installée sur le lieu en 1123. En 1143, l'évêque Adhémar vient bénir les bâtiments et consacrer le terrain où s'élèvera l'église. Celle-ci est commencée en 1159. Mais la construction s'avère laborieuse : faute de crédits, les moines doivent emprunter pour finir les travaux. En 1164, l'abbé de Pontigny facilite l'union de l'abbaye avec celle de Bonneval, dont les revenus permettent à Loc-Dieu de rembourser ses dettes et de poursuivre la construction. Il envoie de plus des ouvriers de Pontigny pour achever le chantier. L'intervention d'un maître d'oeuvre bourguignon pourrait expliquer la parenté architecturale entre l'église abbatiale de Loc-Dieu et celle de Pontigny.£Au bout de 30 ans, le 30 juillet 1189, l'église est consacrée par l'évêque de Rodez, Hugues 1er. La nef est de la 2ème moitié du 12e siècle. Son voûtement, étonnament précoce pour la région, peut être daté de la même époque en raison de sa conformité au modèle de Pontigny. Le chevet avec ses absidioles, le transept, les chapelles latérales, la sacristie et la salle du chapitre sont repris dans le dernier quart du 13e siècle, à la suite d'un don important effectué en 1270 par Alphonse de Poitiers et sa femme Jeanne de Toulouse, avant leur départ pour la 8e croisade. Les deux clefs de voûte du transept nord, ornées d'une croix du Languedoc et d'une fleur de lys, commémore ce don en symbolisant le couple. Cette chronologie fait cohabiter rapidement le style roman et le style gothique.
L'église échappe au saccage des troupes anglaises en 1411. Grâce à sa transformation en grange à la Révolution, elle est conservée à peu près intacte. Cependant, une photographie de 1860 montre la tour du clocher sans toiture. Celle-ci est restaurée à partir de 1885 par Paul Gout qui réalise aussi les joints noirs. La restauration de l'église donna lieu à une nouvelle consécration de l'édifice le 19 octobre 1897. Elle demeure réaffectée au culte.