Suite à la mort du Général de Reffye, fondateur de l'Arsenal, en 1880, le Directeur de l'Atelier de Construction de l'Artillerie M. le Colonel Florentin, proposa au Conseil Municipal de participer au service religieux organisé par le personnel de l'Arsenal. Le sculpteur Nelli fit partie de la délégation présente à cet office religieux. La même année les pétitionnaires de l'Arsenal ouvrirent une souscription pour la réalisation d'un buste en bronze pour la ville de Tarbes et un autre en marbre pour la tombe du Général au Cimetière Notre-Dame de Versailles. Le socle du buste en bronze fut pris en charge par la ville de Tarbes.£L'oeuvre en bronze représentait initialement un buste placé sur un piédestal en pierre de Chauvigny réalisé par Louis Caddau, dont les bas-reliefs représentaient les canons inventés par le Général. Sur la face antérieure du piédestal était gravé "AU/GENERAL DE REFFYE" .La sculpture était entourée d'une grille ouvragée. L'oeuvre a été placé au Quai des Capucins (dénommé Cours Reffye depuis 1889). L'inauguration eu lieu le 30 décembre 1883 en présence du Général Tricoche, délégué par M. le Ministre de la Guerre. Le cortège partit de l'Hôtel-de-Ville pour rejoindre en corps le Cours Reffye. L'oeuvre avait pour objectif d'être un monument à la mémoire du Général, bienfaiteur de la ville, car l'installation de l'Arsenal a permis de rendre Tarbes prospère.
En 1942, le buste a été choisi par la municipalité afin d'être cédé au Groupement d'Importation et de Répartition des Métaux en vertu de la loi du 30 octobre 1941. Cette loi édictée par le Gouvernement de Vichy demande à toutes les communes de France de choisir des oeuvres publiques pour qu'elles soient réutilisées pour la production industrielle. Suite à cette cession, la municipalité remboursa la Caisse de Secours du personnel de l'A.T.S, commanditaire de l'oeuvre. Le socle a été démoli.
Dès 1953 la Ville projeta de réinstaller le buste.£En 1964, le socle prévu devait être en marbre gris d'Audy pour le placage et le socle en béton. Le socle aurait été réalisé par l'entreprise Vazquez.
Paul Reffye, descendant dudit Général, et la Société Académique des Hautes-Pyrénées, proposèrent de faire une copie du buste qui se trouvait sur la tombe à Versailles afin d'ériger de nouveau un buste. Ce nouveau buste a été inauguré en 1967 à l'Est du Cours de Reffye.
Déplacé en 2004 dans le cadre du réaménagement du Cours Reffye le buste est aujourd'hui adossé à une fontaine qui fait face à une seconde fontaine à l'extrémité de la place.
