De ældste spor af menneskelig aktivitet i København er mere end 14.000 år gamle og er efterladt af de rensdyrjægere, som færdedes på datidens iskolde tundra. I de følgende årtusinder kom jægerne også i området, hvor omskiftelige klimaforhold havde stor indflydelse på livsbetingelserne. Jægerne efterlod sig spor i form af bopladser og jagtredskaber. Fra yngre stenalder, hvor agerdyrkningen blev indført, er der gjort offerfund, og periodens bopladser er også blevet lokaliseret. Der er kun gjort få fund fra bronzealderen, heriblandt tre velbevarede gravhøje i Bellahøjparken. Flere af landsbyernes stednavne indikerer dog, at de blev etableret i jernalderen og vikingetiden. Ved indgangen til middelalderen var der således formentlig en række landsbyer i det nuværende område, der udgør København, og den lille handelsplads Havn, som siden skulle blive til bydannelsen København, voksede frem i første halvdel af 1000-tallet.
Den middelalderby, der skød frem derefter, gik fra den nuværende Rådhusplads til Højbro Plads. Den tidlige bydannelse, der fik en kirke i midten af 1000-tallet, har muligvis været knyttet til kongemagten, som måske gjorde sin indflydelse gældende i området på denne tid, da byen lå godt i forhold til handel. De usikre tider i tidlig middelalder betød, at der blev opført et voldanlæg omkring år 1100, måske til beskyttelse af en kongsgård i området. Omkring 1160 skænkede kong Valdemar den Store imidlertid byen til biskop Absalon. Han byggede fra 1167 en borg på det nuværende Slotsholmen, og i 1186 gav han byen til bispestolen i Roskilde, som beholdt den indtil 1417. København havde en god, strategisk beliggenhed ved Øresund og en beskyttet havn bag Amager og en række holme.
Byen oplevede hurtigt kraftig vækst. I begyndelsen af 1200-tallet havde København fire kirker, heriblandt den store Vor Frue Kirke. Desuden etableredes et Gråbrødre Kloster og et helligåndshus i 1200-tallet, og uden for voldene blev der bygget en Sankt Jørgens Gård. København fik i 1254 sin første stadsret af Roskildebispen. Byen og Absalons borg blev ødelagt under en krig med hansestæderne 1368‑70, hvorefter Københavns Slot blev opført oven på ruinerne af den tidligere borg. København fik efterhånden også mange tilflyttere, først tyskere og i 1400-tallet også folk fra Nederlandene. I anden halvdel af 1400-tallet blev Helligåndshuset omdannet til et egentligt kloster, der blev oprettet et clarisserkloster, og Københavns Universitet blev indviet i 1479.
København blev belejret 1523‑24, hvor københavnerne stod på Christian 2.s side i dennes borgerkrig mod Frederik 1. Efter byens fald blev Frederik 1. kronet i Vor Frue Kirke. 1535‑36 blev byen atter belejret, denne gang af Christian 3., som indtog byen, efter at der var udbrudt en voldsom hungersnød i byen. Reformationen begyndte i København allerede i 1530, hvor der var opstande, og nogle af klostrene blev lukket og revet ned. Efter indtagelsen af København i 1536 blev de katolske biskopper fængslet på Københavns Slot.
Under Christian 4. blev der gennemført en række ambitiøse byggearbejder, som skulle gøre København til en prægtig renæssanceby. Byens befæstning blev nyanlagt og udvidet med bastioner, bydelene Christianshavn samt Ny-København uden for Østervold blev påbegyndt, og Rosenborg Slot, Børsen, Nyboder og Trinitatis Kirke med Rundetårn opførtes.
Svenskerne belejrede København 1658‑60, og de byggede en stor lejr ved Brønshøj, som de navngav Carlstad. De ødelagde og afbrændte adskillige af landsbyerne rundt om København. Svenskerne forsøgte uden held at storme byen i februar 1659.
Under indtryk af truslen havde Frederik 3. givet københavnerne nye privilegier, som senere blev bekræftet i en noget udtyndet version. Enevælden indførtes 1660/61 under Frederik 3., hvorefter København skulle være residensby med den pragt og de nye institutioner, der fulgte med. Der blev foretaget udbygninger af Københavns befæstning, ikke mindst i form af Kastellet. I 1670’erne blev Kongens Nytorv anlagt, som snart blev omgivet af prægtige palæer.
I løbet af en pestepidemi i 1711 omkom ca. 23.000 mennesker i København. Under Frederik 5. blev bydelen Frederiksstaden planlagt i midten af 1700-tallet, og Amalienborg Slot blev opført her. Christiansborg Slot blev bygget i 1730’erne af Christian 6. som afløsning for Københavns Slot. Det første Christiansborg brændte i 1794, hvorefter et nyt slot blev bygget. Store dele af København blev ødelagt under de store brande i hhv. 1728 og 1795, og i 1807 blev byen udsat for et ødelæggende bombardement af engelske styrker, siden betegnet som verdens første terrorbombardement.
København fik sin første jernbaneforbindelse i 1847, som førte til Roskilde. Den blev fra 1863 suppleret med en bane, der gik mod Helsingør. I løbet af første halvdel af 1800-tallet var København blevet stadig mere tætbefolket, og i 1850’erne besluttede man at afvikle det byggeforbud, der hidtil havde klemt byen inde bag voldene. Fra 1867 kunne byen brede sig, og brokvartererne blev bebygget. De nye brokvarterer blev først og fremmest bebygget med boliger til Københavns hastigt voksende befolkning. På især Vesterbro og Nørrebro og på Amager blev der bygget lejekaserner eller etageejendomme, hvor lejlighederne ofte var små, og hvor baggårdene også hurtigt blev fyldt op med bebyggelser og skure. Samtidig blev der også bygget huse og lejligheder for de mere velstillede, fx på Østerbro. Boligerne blev efterhånden forsynet med gas, vand og el fra de moderne forsyningsbygninger.
København blev i stadig højere grad en industriby med en stor arbejderbefolkning. Valby var blevet stationsby i 1847 og begyndte en kraftig vækst, mens der stadig var landbrug og gartnerier i landsbyerne Brønshøj, Vanløse og Husum. Københavns Havn havde stor betydning som eksport- og importhavn, ikke mindst efter anlæggelsen af Frihavnen i 1890’erne.
I årene 1901‑02 blev en række af de tilstødende sognekommuner rundt om København indlemmet i staden København, hvilket åbnede nye muligheder for vækst. Der var stor byggeaktivitet efter 1920 i brokvartererne, på Bispebjerg og i Vanløse, Brønshøj og Valby. Desuden indledtes en sanering af nogle af de mest belastede kvarterer i Indre By.
Politisk fik Socialdemokratiet flertal på Københavns Rådhus allerede i 1917 og har siden domineret den politiske ledelse af byen. Dette er bl.a. kommet til udtryk i storstilede boligprojekter fra 1960’erne som Urbanplanen på Amager med moderne boliger beregnet til den almindelige lønmodtager. Andre steder førte saneringerne til konflikter mellem beboerne og kommunen, ikke mindst på Nørrebro. Fra 1980’erne begyndte man at gennemføre mere nænsomme byfornyelser i stedet for gennemgribende saneringer. Det nedslidte Indre Vesterbro blev således gennemgribende moderniseret fra begyndelsen af 1990’erne.
I den sidste del af 1900-tallet begyndte byens befolkningstal at falde. Mange børnefamilier flyttede til omegnskommunerne, hvor der også kom stadig flere store arbejdspladser. Fra 1990’erne begyndte man at udlægge et nyt kvarter på Amager Fælled, Ørestad, og samtidig anlagdes en metro, hvis første linjer åbnede i 2002. En række institutioner og firmaer flyttede ind i nye bygninger i Ørestad, fx DR, dele af Københavns Universitet og indkøbscenteret Field’s. Med åbningen af Øresundsforbindelsen i år 2000 var København blevet den førende by i et integreret Øresundsområde, og befolkningsnedgangen var blevet vendt til vækst.