Le mausolée fut commandé par François Cabrol (1793-1882) vers le milieu du 19e siècle. Ce riche industriel, à l'origine de l'industrie minière et métallurgique de Decazeville, souhaitait en faire un édifice monumental, installé dans une position emblématique dans le nouveau cimetière de la cité, établi sur des terres offertes par M. de Lassalle.£François Cabrol fait appel à l'architecte Antoine-Martin Garnaud (1796-1861) à qui il avait déjà confié le chantier de l'église Notre-Dame en 1847. Ce dernier confie la réalisation des scultpures qui ornent le mausolée à Raymond Gayrard (1777-1858), né à Rodez.

L'édicule fait l'objet de réparations en 1916 à l'initiative de M. de Féligonde, héritier de la famille qui participe pour moitié à la restauration du mur délimitant le mausolée. Avant la deuxième guerre mondiale, il est envisagé de restaurer l'édicule : remplacement de la toiture de la chapelle qui était en briques par une voûte en béton armé. La délibération du conseil municipal du 6 janvier 1951 confie les travaux à la Société Aveyronnaise de Constructions Industrielles en 1952. Jusqu'à cette date, l'entretien du mausolée était partagé entre la ville et les héritiers de la famille. Depuis 2011, la municipalité assume seule les travaux d'entretien et de restauration. Elle a lancé une souscription publique pour financer les travaux du monument en grand péril.

le mausolée abrite les dépouilles de François Cabrol, de son épouse Anaïs et de leur fils Elie.