Le château conserve aujourd’hui de son architecture féodale un donjon d’une hauteur de 52 mètres, achevé sous le règne de Charles V (1338-1380), et une enceinte monumentale, longue de plus d’un kilomètre, ponctuée de neuf tours et complétée par une Sainte-Chapelle fondée en 1379. C’est à Louis VII (1120-1180) que l’on doit, à la fin du XIIe siècle, l’emplacement choisi à l’est de Paris pour ériger un pavillon de chasse, transformé un siècle plus tard, sous le règne de Louis IX (1214-1270), dit Saint Louis, en haut lieu du pouvoir royal.
Entièrement restructuré au XVIIᵉ siècle par l’architecte Louis Le Vau (1612-1670), à la suite de l’installation de Louis XIV (1638-1715) durant la Fronde, le site fut doté, jusqu’en 1661, de nouveaux aménagements modernes, disposés en miroir autour d’une cour ordonnancée, opposant à l’est le pavillon de la Reine et à l’ouest le pavillon du Roi, témoignant d’une profonde transformation du pavillon de Louis XIII déjà existant. Parallèlement, Jean-Baptiste Colbert (1619-1683), alors intendant des finances, fit aménager à l’ouest du château un « petit parc » de près de 15 hectares, dessiné à la française et s’étendant jusqu’à la commune de Saint-Mandé. Ces jardins, inspirés de ceux de Vaux-le-Vicomte alors en cours d’achèvement, annonçaient déjà, par leur composition, ceux du futur château de Versailles.