Efter at have dækket hele den nuværende Sønderborg Kommune smeltede Nordøstisen for 20.000 år siden tilbage fra Hovedstilstandslinjen. Den blev efterfulgt af Den Østjyske Is, som for 19.000 år siden bevægede sig ind over området fra en østlig og sydøstlig retning og stod med sin rand ved Den Østjyske Israndslinje kun et par kilometer bag Hovedstilstandslinjen. Inde under isen eroderede smeltevandsfloder sig dybt ned i isens underlag og skabte tunneldalen på Sundeved, der fra Als Sund strækker sig mod nordvest til Aabenraa Fjord. Dalen er velmarkeret fra Sandbjerg til Nydam og igen på strækningen fra Blans til Varnæs i Aabenraa Kommune. Tunneldale præger også det nordlige Als, hvor de danner et netværk af dale. Den nordligste dal slynger sig gennem landskabet fra Karlsminde øst for Havnbjerg, forbi Nordborg til Augustenhof ved nordvestkysten. Dalen har en ujævn bund med langstrakte bassiner, der adskilles af højereliggende tærskler, hvilket er karakteristisk for tunneldale. Det største bassin rummer Nordborg Sø. Ved Nordborg sender dalen en gren mod sydvest gennem Gammeldam og Oldenor til Dyvig og Stegsvig. Herfra har den forbindelse mod syd til Mjels Vig og de genoprettede Bundsø og Mjels Sø.
Da Den Østjyske Is begyndte at smelte tilbage, blev dele af isens randområder til stilleliggende dødis med småsøer, hvor smeltevand strømmede til og aflejrede ler, sand og grus. Dødisen var dækket af jord, og i det kolde klima kunne den ligge begravet i flere tusinde år. Under den efterfølgende temperaturstigning smeltede dødisen dog gradvis bort og efterlod et småbakket dødislandskab, som bl.a. kan ses nord for Guderup på Als og ved Kværs nær grænsen til Aabenraa Kommune. Det småbakkede dødislandskab domineres flere steder af fladtoppede issøbakker, der hæver sig 20‑25 m over det omgivende terræn. Andre steder i kommunen smeltede isen mere jævnt tilbage og efterlod et bundmorænelandskab, som fx kan opleves omkring Ullerup på Sundeved og omkring Augustenborg Fjord på det vestlige Als.
For 18.000 år siden blev Den Østjyske Is afløst af Bælthavisen, som delte sig i lobeformede istunger. Den ældste menes at være istungen i Lillebælt, som trængte et stykke ind i den ydre del af Flensborg Fjord og dækkede Broager Land og den sydlige del af Als. Her markeres istungens største udbredelse af det brede strøg af langstrakte og toppede bakker, der strækker sig fra Kirke Hørup, forbi Asserballe til Helved. Det imponerende bueformede bakkedrag, der omkranser Vemmingbund, er randmorænebakker, som blev presset op af Bælthavisen. Selve den 25 m dybe Vemmingbund er inderlavningen, hvorfra istungen hentede materialerne til at danne bakkerne.
Vest og syd for Vemmingbundbuen lå der stadig store områder med is, som dog ikke længere var i bevægelse. Ved Nybøl Nor, Egernsund og ved Iller på Broager Land var der store søer, som lå omkranset af smeltende dødis. Det tilstrømmende smeltevand fragtede store mængder fint sand og ler ud i issøerne, hvor det bl.a. blev aflejret som det issøler, der siden er blevet indvundet til teglindustrien. Ved isens endelige afsmeltning blev issøerne tappet for vand, og vandet fra Iller-issøen udgravede en dyb tapningsfure i landskabet ved Dynt. Ved Skelde sydøst for Dynt lå der dog stadig is og spærrede afløbet, hvilket stemmede vandet op i en ny sø, den såkaldte slusetrin-issø. Først senere blev passagen til Sønderborg Bugt isfri, så smeltevandet kunne løbe væk.
Inden Bælthavisen helt slap sit tag i kommunen, aflejrede smeltevandet sand og grus i en tunnel under isen og dannede Pøl Ås. I dag består åsen af to bakkerygge, der løber parallelt med østkysten på den sydøstligste del af Als.
I Atlantisk tid steg havniveauet, og Littorinahavet bredte sig ud over landskabet, der mere eller mindre fik det omrids, som kendetegner kommunen i dag. På grænsen mellem hav og landjord blev bakker til øer og halvøer, mens lavninger og dale druknede og blev til vige og fjorde. Havet trængte ind i Lillebælt og videre ind i Als Fjord, Flensborg Fjord og Sønderborg Bugt og sendte forgreninger videre ind i Augustenborg Fjord og Nybøl Nor, mens den smalle lavning mellem Sundeved og Als blev til et sund. Siden da har havets brændingsbølger skabt kystklinter på udsatte steder langs Broager Land og østkysten af Als.
