Nordby har tidligere været klart den største bebyggelse på Samsø. I middelalderen var der efter alt at dømme yderligere et par mindre landsbyer på den nordlige del af øen, som tilsyneladende blev opgivet, og beboerne flyttede til Nordby. Nordby Kirke lå mellem Nordby og de forsvundne landsbyer, og det skulle være forklaringen på kirkens beliggenhed syd for Nordby.
I 1600‑1700-tallet lå antallet af gårde på 55‑60; i 1800-tallet blev det reduceret til ca. 50, mens antallet af huse nåede op på ca. 80. Nordby var mere end nogen anden landsby på Samsø involveret i øens livlige søfart i 1600‑1700-tallet, der især drejede sig om eksport af kornprodukter til Norge og import af tømmer, jern og fisk derfra, men også handlede om fragtfart på havne i Østdanmark, Vestsverige og Nordtyskland. Transporten foregik på Samsøbøndernes egne skuder, og på et af højdepunkterne, i 1709, havde øen 302 søfarende mænd, hvoraf de 61 var bosat i Nordby. Endnu i begyndelsen af 1900-tallet havde Nordby en del småskippere, som levede af fragtfart og af at afsætte sognets produkter, nu for det meste kartofler. Ellers var landbruget det dominerende erhverv i både 1800- og 1900-tallet. Befolkningstallet, der havde ligget på 701 i 1850, var i 1916 kommet ned på 605, hvilket dog stadig var en smule mere end den næststørste by, Tranebjerg.
Befolkningsnedgangen fortsatte senere i 1900-tallet. I 1930 havde Nordby kun 516 indbyggere, i 1950 var tallet 345, og i 1970 var det yderligere faldet til 323. Endnu i 1970 var 43 af de 121 erhvervsaktive beboere beskæftiget i landbruget.
Nordby fik skole i 1916, og byen har også været forsynet med bl.a. andelsmejeri, missionshus, bibliotek og kro med biograf.
I tiden efter 1970 fik den stigende turisme stor betydning for Nordby. Befolkningstallet var dog fortsat faldende og lå i 2006 på kun 262 indbyggere.
