Rudkøbing har en meget intakt bykerne, og blandt de ældste huse, som er fra ca. 1670-1700, er flere oprindelig bygget som gavlhuse. Fra anden halvdel af 1700-tallet stammer flere store købmandsgårde, bl.a. Bays Gård, Østergade 24 (1782 med mansardtag). Også i Nørregade ligger en samling af gamle købmandsgårde. Blandt disse er Nørregade 12‑14 (1799/1804) og overfor nr. 21 med byens første murede privat‑bygning fra 1802 af murermester Frederik Nielsen. Han byggede også det klassicistiske sprøjtehus i Grønnegade fra 1834 og den forhenværende borgerskole ved kirken. Samtidig kom den akademiske klassicisme til byen med rådhuset på Torvet, tegnet i 1845 af Jørgen Koch.
Midten af 1800‑tallet blev en blomstringstid, mange huse fik nye murede facader, og nye husrækker skød op i byens udkant. På hovedstrøget Brogade opførtes statelige ejendomme som Strandgården i nr. 25 (1852 med velbevaret kompleks af udlænger og pakhuse) og det gamle apotek i nr. 15 (1854), begge med senklassicistiske facader.
Et nyt byggeboom kom i årene 1890‑1910; en del bygninger blev opført af den lokale arkitekt Chr. Bowman, bl.a. Langelands Museum (Jens Winthers Vej 12, 1905) og efterskolen på Nørrebro (1909). Andre blev tegnet af den fra København tilflyttede Ludvig Andersen, især den nationalromantiske ejendom Østergade 36‑38 (1913) og den for‑ nemme Rudkøbing Skole (1916‑21), som nu ombygges til ældreboliger. I 1920’erne tegnede Svendborgarkitekten Frits Jørgensen en række klassicistiske bygninger. Blandt disse kan fremhæves sygehuskapellet bag rådhuset på Fredensvej 1925‑26, pavillonen ved Marstal‑Strynø‑færgelejet 1926, det lille Gesamtkunstwerk det katolske Skt. Bendts Kapel i Brogade (1924) samt flere villaer (Spodsbjergvej 32 og Rue 23, 35 og 37). Det skal også nævnes, at Poul Henningsen (PH) byggede to Bedre Byggeskikhuse i apotekets baghave (Pilegaards‑ vej 1‑2, 1920).
Efter 1945 byggede kommunen en række kædehuse ved Ringvejen (Jørgen Stærmose, 1946) og småhuse af træ eller murværk ved Skovbakken, samtidig med at øens første boligselskab byggede rækkehuse ved Fredensvej.