Landskabet i Aabenraa Kommune er præget af isens bevægelser og smeltevandets forløb under sidste istid. Hovedstilstandslinjen, som markerer grænsen for Nordøstisens største udbredelse under sidste istid, gennemløber kommunen fra nord til syd, hvor den passerer Rødekro og løber videre sydover forbi Kliplev og Kiskelund til Padborg ved den dansk-tyske grænse. Den lange linje deler kommunens landskab i to. Vest for Hovedstilstandslinjen ligger et typisk vestjysk bakkeø- og hedeslettelandskab, som domineres af Tinglev Hedeslette, der med en udstrækning på ca. 700 km2 er en af Danmarks største smeltevandssletter. Mod nord afgrænses Tinglev Hedeslette af Toftlund Bakkeø, som er en rest af et gammelt landskabsparti fra næstsidste istid, Saale. Vest for Padborg ligger indsanden Frøslev Sand med Frøslev Plantage, og mellem Hovedstilstandslinjen og Tinglev brydes den østlige del af hedesletten af talrige tørvefyldte huller, som bl.a. rummer Tinglev Mose. En række vandløb, heriblandt Arnå, Hvirlå, Grønå og Sønderå, der alle udspringer nær Hovedstilstandslinjen, bugter sig vestpå hen over Tinglev Hedeslette til Magisterkogen i Tønder Kommune, hvor de fortsætter gennem marsken som Vidå.
Få kilometer øst for Hovedstilstandslinjen, mellem Kliplevog Kværs i Sønderborg Kommune, markerer en række langstrakte bakkedrag Den Østjyske Israndslinje, som viser, hvor langt østpå isen nåede under det senere Ungbaltiske Isfremstød. Nord for Aabenraa Fjord tegnes Den Østjyske Israndslinjes forløb af et bredt strøg af bakker, som nord for Genner rummerkommunens højeste punkt, Knivsbjerg, 100 m.o.h. I forlængelse af den meget brede og korte dal med Aabenraa Fjord deles morænelandskabet af et system af tætliggende, korte og dybe dale, som udmunder i Tinglev Hedeslette. Øst for Den Østjyske Israndslinje er landskabet småbakket og flere steder domineret af fladbakker, der hæver sig 20‑25 m over det omgivende terræn, fx ved Kværs øst for Kliplev, syd for Løjt Kirkeby på halvøen Løjt Land samt ved Felsted og Bovrup syd for Aabenraa Fjord.
Istidslandskabets uregelmæssige overflade med bakker og dale har også bestemt forløbet af kommunens kyst. Et dominerende træk er klinterne langs kysten af Løjt Land, der med få afbrydelser kan følges fra det indre af Genner Bugt, rundt om halvøen til Aabenraa. Syd for byen fortsætter klintkysten rundt om Varnæs Hoved til kommunegrænsen. Tilsvarende kystklinter ses ud mod Flensborg Fjord. Derimod optræder marint forland kun i mindre udstrækning.