Le faste de l'évêché édifié par Hugues de Bar entre 1676 et 1682 tend à rivaliser avec celui d'un véritable palais épiscopal, et le jardin à trois terrasses offrant une vue panoramique sur la vallée du Gers et les Pyrénées n'est pas le moindre de ses atouts. L'aménagement de ce jardin nécessite la destruction de l'ancien évêché et celle de deux îlots d'habitations. Un colossal travail de terrassement est effectué. On réutilise le rempart à l'Est tandis qu'on élève un très haut mur de soutènement à l'ouest, et on protège les terrasses avec des balustrades en pierre. Le Jardin de l'Evêché évolue ensuite sous l'épiscopat de Monseigneur de Jumilhac (1760-1772), amateur de jardins. En 1762 il acquiert les anciens fossés, situés à l'Est, pour y établir un verger. Avant 1820, un maillage de marronniers et de platanes d'orient est planté dans le grand parterre, probablement selon les souhaits du Maréchal Lannes acquéreur de l'édifice en 1800. Depuis, le lieu porte le nom de ""Jardin des Marronniers"" bien que ces derniers aient disparu. La duchesse de Montebello, veuve du Maréchal Lannes, fait don de l'évêché à la commune en 1819 et le Jardin devient public l'année suivante.