Christian 4. begyndte anlægsarbejdet af Kongens Have i 1606. Den først kendte opmåling fra 1649 viser en opdeling af det flade areal i regelmæssige kvadrater; et skakbrætmønster, der endnu i dag genkendes i stisystemet. Omkring år 1700 blev der plantet lindealléer langs hovedstierne, og de to klippede alléer, Damegangen og Kavalergangen, nærmest Rosenborg Slot, stammer fra denne tid. Svanespringvandet i krinsen af gamle lindetræer ligger, hvor den gamle plan viser et skæringspunkt af diagonale gange. Indtil 1783 var eksercerpladsen syd for slottet en del af haven med broderiparterre (lave formede hække) af Johan Cornelius Krieger, som også byggede orangeribygningen langs Øster Voldgade. I 1819 blev haven åbnet for folket, og gitteret med de små pavilloner er tegnet af Peter Meyn og opsat ca. 1803‑04.
Alléerne er forynget ved nedskæringer i ca. 1950. I 1960’erne lod De Kgl. Slotte og Haver ved Knud Preisler og Ingwer Ingwersen plante en allé af afklippede hestekastanjer og anlægge et krokustæppe i aksen mellem slottet og Kronprinsessegade. Desuden blev anlagt en renæssancelignende rosenhave mellem voldgraven og husalléen. Det 250 m lange staudebed blev nyanlagt 1998‑2000 ved Landskabsarkitekter M.D.L. Sonja Poll & Knud Lund-Sørensen.
