J.-A. Delpon a donné une description assez précise du site en 1831 : "Tout le rocher de la rive droite présente, depuis sa base jusqu'à son sommet, de nombreuses cavités, dans lesquelles existent des vestiges de murailles formées de pierre taillées et liées avec du ciment. Quelques-unes de ces constructions sont assez bien conservées ; les ouvertures qu'elles offrent annoncent qu'elles avaient trois étages. Leur base est au moins à quinze mètres au-dessus du niveau de la rivière. On pénétrait dans la plus orientale par une porte qui paraît avoir deux mètres de large sur autant de hauteur. On remarque au-dessus deux ouvertures, séparées par une colonne très-bien soignée, qui se terminent en ogive. Les ouvertures de la plus occidentale forment une courbe non brisée ; celles du troisième étage des deux constructions sont en parties détruites, et ne se montrent aujourd'hui que comme des créneaux. En avant de la dernière, il y avait aussi une autre construction qui est presque démolie. Il paraît qu'on pouvait communiquer de l'une à l'autre par des saillies et des crevasses du rocher. On distingue, dans l'intervalle qui les sépare, six vestiges de bâtisses, dont trois existent sur des avancements de rochers, là où il n'y a point de cavernes."
Le pan de mur qui subsiste aujourd'hui n'est donc que le dernier vestige d'un ensemble bâti assez important, dont témoignent aussi les nombreux trous d'encastrement que présentent les parois. Son état actuel résulte d'une restauration, ou de restaurations successives, à laquelle il faut probablement attribuer le crénelage, comme le pensait M. Bénéjeam (1984, p. 67) : c'est ce que laisse en effet penser le texte de Delpon. Les bâtiments contrôlaient l'entrée d'un goufre et d'un réseau de galeries qui débouchait à une soixantaine de mètres à l'ouest.