Landskabet i Københavns Kommune blev hovedsagelig dannet af is og smeltevand i slutningen af sidste istid og er en del af den sammenhængende moræneslette Heden, der ligger mellem København, Roskilde og Køge. Da det meste af kommunen er bebygget, er det dog ikke meget, man ser af landskabet, som i høj grad også er blevet formet af menneskelig aktivitet. Store dele af det indre København er bygget ud i Øresund oven på fyld af især byggeaffald, og i forbindelse med byens forsvar er der anlagt volde og voldgrave.
Da isen slap sit tag i området, efterlod den et antal jævne bakker. De omfatter bl.a. de to beskedne bakker, der senere skulle blive til Amager og København-bakken. I dag ligger de klemt inde mellem Refshaledybet og lavningen med Københavns Indre Søer, hvor de udgør cityområdet med Vor Frue Kirke. Nordvest herfor ligger en tilsvarende bakke, der afgrænses af Åboulevard, Bispeengen og lavningen med den nu forsvundne Lersø, som har lagt navn til Lersøparken og Lersø Parkallé. En smule længere mod vest ligger endnu et bakkeparti, som i dag dækkes af Emdrup, Utterslev, Brønshøj, Husum og Vanløse. Det afgrænses af Utterslev Mose mod nordvest og af Harrestrup Å mod vest og kulminerer i yderligere et bakkeparti, Bellahøj, der huser kommunens højeste punkt 41,7 m.o.h. Dertil kommer Valby Bakke, der sammen med Frederiksberg Bakke i Frederiksberg Kommune danner et svagt buet bakkeparti, som rager 20 m op over det omgivende terræn. Fra dette bakkeparti, der strækker sig fra Solbjerg Parkkirkegård i nordvest til Vestre Kirkegård i sydøst, falder terrænet ned mod lavningerne med Harrestrup Å, Grøndalsparken, Bispeengen, Sankt Jørgens Sø og Kalveboderne. I modsætning til det jævne, kuplede bakkeland, som præger det meste af området, finder man et småbakket landskab omkring lavningen med Utterslev Mose.
Ud mod Svanemøllebugten og løbet mellem Kalveboderne og Københavns Havn afgrænses istidslandskabet af en bræmme af havskabt land, såkaldt marint forland, der ydermere kantes af et bredt bælte af fyld. Derudover indgår store dele af Kalveboderne og de tidligere holme Koklapperne og Svenskeholm i den inddæmmede Kalvebod Fælled, hvor store arealer i dag ligger 1‑3 m under havniveau.