Oprindelsen til det nuværende Nibe må søges i et fiskerleje, hvis beboere ernærede sig af fjordens og det nærliggende Sebbersunds fiskerigdom. På markerne ved byen er der fundet hundredvis af mønter, hvoraf de ældste er præget af danske konger mellem 1252 og 1332. De fleste er sandsynligvis kørt ud på markerne med affald inde fra Nibe. Også inde i byen er der fundet mønter fra samme periode, tillige med en enkelt tysk Otto-Adelheidpenning fra omkring år 1000. Der har altså været udbredt møntbrug i området fra anden halvdel af 1200-tallet. Der fandtes en bosættelse på stedet i anden halvdel af 1200-tallet, men stednavnet Nibe er imidlertid først kendt fra 1360’erne, hvor man kunne købe byens vigtigste produkt, Nibesild, i Lübeck. Fiskerlejet omtales første gang i 1376, og i 1406 blev kongen tildømt gods på dette sted. I løbet af 1400-tallet opstod der et bysamfund med markedshandel på baggrund af det omfattende Limfjordsfiskeri. Såvel bispen af Viborg som Helligåndsklosteret og Vor Frue Kloster i Aalborg samt omegnens vigtigste adelsfamilier, såsom Viffert, Thott, Rosenkrantz, Lunow og Brok, havde interesser i byen. Fra 1491 var der en kongelig salter i Nibe; han opkøbte og saltede sild til de kongelige slottes og orlogsflådens behov.
Den opblomstrende by var en torn i øjet på borgerne i Aalborg, der i 1462 fik tildelt et læbælte på fire mil, hvilket betød, at aalborgenserne havde eneret til handel og håndværk inden for en radius af ca. 30 km. Kongen bød derfor, at købmænd kun måtte agere i Nibe som opkøbere af sild i fiskesæsonen, og alene varer, der havde tilknytning til fiskeriet, såsom søm, træ, salt og kul, måtte forhandles i byen. Desuden påbød kong Hans mellem 1483 og 1497, at Nibes marked skulle flyttes til Aalborg. Dette påbud blev dog i nogen grad ignoreret, men det må have betydet en vis opbremsning i bysamfundets udvikling.
I 1456 var der oprettet et kapel til den da populære helgen Sankt Jost, og i 1484 nævnes den første sognepræst i byen. I 1513 fik bispen i Viborg patronatsret, dvs. ret til at udnævne præst m.m.
I 1516 forbød Christian 2. sildesaltning alle andre steder i Limfjorden end i Løgstør og Aalborg, men allerede to år senere fik nibenitterne også ret til at salte sild ved deres by mod at betale seks læster, dvs. 72 tønder sild, årligt til kronen. I 1536 nævnes Nibe blandt Jyllands købstæder i den københavnske reces (en lovsamling), selv om byen ikke havde købstadsrettigheder.
I 1545 fik Nibe egen birkeret (retskreds) samt en kongelig tolder, og i 1587 blev der givet tilladelse til, at to grovsmede, to skomagere og to skræddere tog ophold i byen. Det varede dog ikke længe, før man også fandt bødkere og snedkere, en rebslager og endda en våbensmed i byen.
På trods af de kongelige begunstigelser fortsatte striden med Aalborg ufortrødent, og Aalborgs købmænd fik i 1570 kongen til at nedlægge forbud mod udlændinges handel og fiskeri ved Nibe. Til gengæld fik nibenitterne i 1579 deres egen byvedtægt. I 1590 blev det indskærpet, at fiskerne kun måtte salte fisk til eget behov i Nibe – resten skulle nedsaltes i Aalborg. På trods af striden med Aalborg blev Nibe pga. sit succesfulde fiskeri ved med at vokse igennem hele 1500-tallet, og i 1573 var byen nået op på 900 indbyggere.
1602‑03 var der pest i Nibe, og året efter brændte byen. I årtierne herefter ramte krig, pest og især det svigtende fiskeri byen hårdt. Nibe var 1627‑29 besat af tyske tropper under Kejserkrigen og 1657‑59 af svenske tropper under Karl Gustav-krigene.
Den forgældede Frederik 3. måtte i 1664 afstå sin halvdel af byen (12 gårde og 119 husgrunde) til rigsmarskal Johan Christoffer von Kørbitz, der straks forhøjede afgifterne. Med enevælden fik Nibe en amtsforvalter, og fra 1673 fik byen ligesom købstæderne pligt til at opkræve konsumptionsafgift, da der blev udøvet »mere end bondenæring«. På et prospekt af Nibe i Resens Atlas Danicus fra omkring 1675 ses tre skibsbroer ved kysten, og i Strandgade er der lige nord for Færchs Torv påvist pæle til et bolværk eller måske en skibsbro. Pælene er dateret til fældning i vinteren 1613‑14, og bolværket er anlagt straks derefter. En reparation er foretaget omkring 1645. Begge anlægsaktiviteter afspejler opgangstider for fiskeriet. Fiskeriet blomstrede igen fra omkring 1680, og i 1682 havde byen over 1.350 indbyggere og var dermed den ottendestørste by i Jylland. I 1687 fik Nibe et tinghus og i 1693 et fast udvalg af 12 valgte mænd, der bl.a. skulle stå for påligning af fællesudgifter. Fra 1699 fik man ret til at købe salt og tønder, hvor man ville, ligesom man måtte holde marked hvert år d. 19. september.
Omkring år 1700 havde byen 16 bødkere, seks skomagere, fire smede, to skræddere, to snedkere, to bagere, to tækkemænd, en glarmester, en rebslager og en væver – men stadig ingen formelle rettigheder. Først i 1727 blev Aalborgs modstand brudt, da Nibe efter en lang blomstringsfase endelig fik tildelt de eftertragtede købstadsprivilegier, godt hjulpet af, at byen var kommet ind under den mere venligtsindede Viborg stiftamtmands jurisdiktion. Dette år udførte Nibe 3.600 tons sild, men snart efter svigtede fiskeriet atter, og krisen varede 1700-tallet ud. Fra et højdepunkt omkring 1730 med ca. 1.600 indbyggere var der i 1787 kun 1.001 tilbage. En brand i 1765 ødelagde en fjerdedel af byen, og genopbygningen gik langsomt. En ny glansperiode begyndte omkring år 1800, da fiskeriet atter blomstrede. I 1810 oprettedes en egen salterbod, og i 1817 blev den første egentlige havn anlagt. I 1818 var der 17 købmænd i Nibe, der førte direkte handel uden om Aalborg – i første omgang med Danzig, Königsberg, Riga og Hamburg, og siden også med Holland, England, Barcelona og Marseille. Men som så ofte før svingede Nibes konjunkturer op og ned i takt med fiskeriet. Fra efteråret 1828 svigtede dette totalt, hvilket antagelig hang sammen med Agger Tanges gennembrud i 1825. Hvor byen i 1825 havde haft 1.550 indbyggere, var dette antal allerede i 1840 faldet til 1.193.
Nibe blev efter 1830 nødt til helt at omstille sit erhvervsgrundlag. Fra 1840 anlagdes forskellige fabriksvirksomheder såsom en kradsuldsfabrik, en tobaksfabrik, to spritfabrikker, et cementstøberi, et ølbryggeri og en trævarefabrik. J. Petersens Beslagfabrik, der blev grundlagt i 1869, udviklede sig til at blive en af byens største virksomheder. Nye vejanlæg skabte bedre forbindelse med oplandet, og 1865‑66 anlagde man en mere moderne havn, ligesom man uddybede indløbet. I 1899 åbnede jernbaneforbindelsen Svenstrup-Nibe-Aars, der i 1910 blev forlænget til Hvalpsund. I 1877 fik byen teknisk skole, i 1903 Nibe og Omegns Bibliotek samt gasværk og i 1910 sygehus. Elektricitetsværket blev til på privat initiativ i 1921, og i 1931 fik man et kommunalt vandværk. Befolkningstallet steg atter efter 1850 og havde i år 1900 nået 1.723 indbyggere. Optimismen omkring år 1900 blev dog afløst af en krise, da Banken for Nibe og Omegn krakkede i 1908.
I 1930 havde Nibe 1.989 indbyggere, og byen, der engang havde været blandt de ti største i Jylland, måtte nu se sig overgået af en halv snes stationsbyer og andre bymæssige bebyggelser med Aars som det mest nærliggende eksempel. Omkring 1930 sandede havnen til, og fragtskibsfarten ophørte. I 1969 var det også slut med den lokale jernbanedrift.
Der var borgerligt flertal i byrådet indtil 1937, hvorefter Socialdemokratiet havde borgmesterposten indtil 1958, da embedet blev overtaget af redaktør Holger Søndergaard, der var valgt på en upolitisk borgerliste.
Siden slutningen af 1950’erne søgte man i Nibe gennem det nyoprettede Nibe Erhvervsråd at fremme mulighederne for etablering og udbygning af såvel private som offentlige arbejdspladser. På dette tidspunkt var de største arbejdspladser J. Petersens Beslagfabrik (IPA), Nibe Andels-Svineslagteri, Limfabrikken Limfjorden, Nibe Trævarefabrik og de lokale mejerier, der blev suppleret af en række håndsværksvirksomheder og mindre industrivirksomheder. I 1962 lykkedes det således at få skjortefabrikken Play, der oprindelig hørte hjemme i Birkerød, etableret i byen.
Den 1. april 1970 blev Nibe i forbindelse med Kommunalreformen lagt sammen med Vokslev, Bislev, Sebber, Store Ajstrup, Lundby og Farstup Kommuner samt Ejstrup Sogn fra Blære-Ejdrup Kommune til den nye Nibe Storkommune. Ny borgmester blev Egon Rokkedal, den tidligere sognerådsformand for Farstrup Kommune. Byen blev administrationscenter i den nye kommune.
Et tilbageslag for erhvervsudviklingen var lukningen af svineslagteriet i 1972, der dog blev erstattet af fiskefabrikken Marine Seafoods (senere Abba Seafood) indtil lukningen i 1995. I 1978 flyttede sodavandsfabrikken Skjold desuden fra Aalborg til Nibe. Nye industrivirksomheder, der genspejlede den teknologiske udvikling, kom til i løbet af 1980’erne og 1990’erne. Her har Danish Crane Building (DCB), medicinalvarefabrikanten Danipharm og vindmøllefirmaet GK Energi udviklet sig til succeser, mens andre firmaer, såsom modemfabrikanten Lasat, efter årtusindskiftet blev opkøbt og siden lukket. I 1990’erne skete der en udbygning af detailhandelen i Nibe, bl.a. på havnefronten.
