Le terrain qui longeait la cathédrale Notre-Dame était occupé jusque dans les années 1830 par le Palais de l’Archevêché. Célèbre pour sa beauté, la grandeur de ses pièces et son jardin dessiné par Gabriel Thouin, il fut malheureusement saccagé par les émeutes anti-légitimistes du 14 février 1831. Rasé, il fut remplacé par un jardin en 1837. En 1850, Viollet-Le-Duc et Lassus construisirent le presbytère et la sacristie de la cathédrale Notre-Dame, qui jouxte le jardin. Le comte Rambuteau, préfet de la Seine de 1833 à 1848, fut chargé de la création du jardin actuel. Achevé en 1844, ce fut le premier jardin public de quartier. Il nécessita la démolition des maisons insalubres datant du Moyen Age, qui caractérisaient encore Paris à cette époque. Ces destructions fortement décriées en leur temps ont permis de mettre en valeur la cathédrale Notre-Dame qui étouffait depuis 1163, écrasée par la proximité d’autres maisons.

Situé derrière la cathédrale de Notre-Dame, le square Jean-XXIII vous offre de nombreux bancs desquels vous pourrez apprécier la quiétude offerte par la dense végétation environnante.  Ce jardin est peuplé de cerisiers du Japon à l’écorce cuivrée et aux floraisons exceptionnelles blanches et roses, qui rivalisent avec quelques pommiers à fleurs. Presque accolés à Notre-Dame, un noisetier de Byzance fait face aux tilleuls à grandes feuilles et argentés. Ils encadrent la fontaine « La fontaine de la Vierge », par Vigoureux (1845), dont le style gothique se marie à merveille avec la pierre dentelée de la cathédrale. Une tenture de lierre (Hedera helix) tapisse les parois des murs qui plongent vers la Seine. Deux ormes pleureurs rescapés de la maladie de la Graphiose et des merisiers s’immiscent entre les massifs fleuris, qui recouvrent les pelouses flanquées aux quatre coins d'ifs taillés en forme de cône. La décoration florale de l’été 2012  a participé au concours  de décoration florale 2012 et a obtenu le 3e prix dans la catégorie des grands jardins de Paris. Vous verrez aussi des marronniers d’Inde, un arbre à soie (Albizia julibrissin), un charme pyramidal, un épicéa bleu, un tamaris remarquable et un arbre à miel Euodia hupehensis. Un chêne de Hongrie rend hommage depuis juin 1998 à Monseigneur Affre, à la demande de l'Archevêché de Paris.

Le square Jean-XXIII est le lieu favori d’observation des ornithologues. 3 à 5 couples de faucons crécerelle y nichent en permanence, les rapaces installés en Ile-de-France s’étant peu à peu sédentarisés. Vous pourrez participer deux week-ends par an à des journées d’observation organisées par le CORIF (Centre Ornithologique d’Ile-de-France). A l’aide d’une longue vue et d’une caméra vidéo braquée sur le nid, vous observerez les images retransmises dans une tente située dans le square. Les premiers faucons crécerelle ont trouvé refuge dans les trous laissés par les échafaudages, lors de la construction de la cathédrale Notre-Dame, mais le premier recensement date de 1840. En 1999, on a relevé leur présence sur 53 sites. On les trouve essentiellement sur l’Arc de Triomphe, sur la Tour Eiffel, aux Invalides, au Sacré-Coeur, sur la Tour Saint-Jacques, à Saint-Sulpice et Saint-Ambroise, mais aussi dans des hôpitaux parisiens. Si vous êtes effrayés par la trop grande foule qui s’y presse certains jours, échappez-vous vers le plus tranquille square de l’Île-de-France, que vous apercevrez juste en face.