Den slesvigske gavlhustradition er repræsenteret i Ærøskøbing med to bindingsværkshuse, Philip Kocks Hus fra 1645 (Søndergade 36) og Priors Hus fra 1690 (Søndergade 32). Den florissante periode satte sine tydelige spor med en række barokhuse med deres karakteristiske brede karnapper og indrykkede døre. De har oprindelig været opført i bindingsværk, men flere har i 1800-tallet fået forsiden og/eller flere sider grundmurede. Vestergade 29 (1749) og 30 (før 1766) er eksempler på denne tradition. Et af de mere monumentale barokhuse er Vestergade 44-46 (1784-86) i to etager. Byen har dog også bevaret flere af sine bindingsværks huse som bl.a. Hammerichs Hus, Gyden 22, opført i 1803. Bygninger, der ikke havde karnap, fik et gadespejl, kaldet en spion, så man nemt kunne holde øje med, hvad der foregik.
Værd at fremhæve er også kgl. bygningsinspektør L.A. Winstrups rådhus opført i 1863 i norditaliensk renæssance.
Perioden fra midten af 1800-tallet til begyndelsen af 1900-tallet var præget af en livlig byggeaktivitet. Ærø er derfor præget af periodens arkitekturstrømninger, senklassicismen og historicismen. Mest helstøbt har udviklingen været med sine pudsede huse og senklassicistiske pynt som hvide profilerede vindues- og dørrammer, gesimser og markante brystninger isprængt historicistiske elementer. Et iøjnefaldende og tidligt eksempel er Smedegade 33 (1845) med en overflod af dekorative elementer.
Især den flittige fynske arkitekt Emil Schwanenflügel kom til at sætte sit præg på øen med nygotiske bygninger som fx Borger- og Realskolen i Ærøskøbing (1888). Det nu nedlagte alderdomshjem Gilleballehus tegnet af Alexis J. Prior fra 1928 er en repræsentant for øens nyklassicisme.
Ærøskøbing Bypark fra 1888 med dam og mindesten ligger ved havnen. Kirkepladsen ved Ærøskøbing Kirke, hvor der indtil 1809 var kirkegård, er et grønt område med store træer. Skovanlægget Strandskoven er fra 1904.
