Kongerigets første jernbane åbnedes i 1847 mellem København og Roskilde. Stationen i København måtte af hensyn til byens befæstning placeres uden for Vesterport, samme sted som hovedbygningen på den nuværende hovedbanegård ligger, og i henhold til demarkationsbestemmelserne opførtes stationsbygningen i træ. Banelinjen mod Roskilde løb, hvor Halmtorvet og Sønder Boulevard ligger i dag.
Nordbanen og Klampenborgbanen åbnede i etaper fra 1863‑64, og for at have samme banegård til de nordgående og den vestgående bane blev der anlagt en ny station med hovedbygning tegnet af J.D. Herholdt, cirka hvor Palads Teatret i dag ligger. Togene kørte ad en dæmning mellem Sankt Jørgens Sø og Peblingesø og herefter nordpå via Nørrebro eller vestpå via Frederiksberg. Københavns anden banegård viste sig dog snart for trang og måtte efterhånden udvides langs Vester Farimagsgade med særlige stationer for Klampenborg- og Holtetrafikken samt for Nordbanen. Men banegården var fortsat for lille og uden udvidelsesmuligheder. Desuden voksede hovedstaden hurtigt sidst i 1800-tallet, og banelinjerne, som krydsede byens gader i niveau, skabte store gener for bytrafikken.
Løsningen blev en ny banegård, hvor den første havde ligget, og med sporterræn på opfyldte arealer langs Kalvebod Strand. Banelinjerne anlagdes forsænket, så krydsende gader kunne føres over. Københavns Banegård (den nuværende Københavns Hovedbanegård) blev tegnet af Statsbanernes arkitekt, Heinrich Wenck, og indviet i 1911, i første omgang kun for banen vestpå, mens togene nordpå først kunne benytte den fra 1917, da Boulevardbanen under Nørreport til Østerport Station åbnede. Med hele seks perroner og 12 spor – og mellemliggende, særlige perroner for rejsegods og post – havde byen endelig fået en stor banegård. Selv den markante vækst, som S-banen fra 1930’erne medførte, kunne rummes. I dag, hvor de oprindelige haller endnu er bevaret, lever Hovedbanegårdens indretning stadig op til nutidens krav og betjener dagligt over 100.000 passagerer.
