Skive opstod formentlig i 1100-tallet ved et vadested, hvor den ca. 80 km lange Karup Å munder ud i bunden af Skive Fjord og udgjorde en fremragende beliggenhed for en naturhavn. Det ældst bevarede købstadsprivilegium for byen er fra 1326.
Byens placering og udvikling til købstad er nært forbundet med placeringen af Skivehus. Bebyggelsen voksede frem på to bakkedrag højt hævet over den brede ådal på vestsiden af Karup Å, hvortil flere veje førte op fra overgangsstedet.
Bebyggelsens middelalderlige udstrækning kendes ikke nøjagtigt. Det anses imidlertid for sandsynligt, at bykernen skal søges i de to middelalderkirkers umiddelbare nærhed. Da de to kirker, Vor Frue og Sankt Peders Kirke, ud fra byggestilen at dømme er blevet opført omkring år 1200, og navnene tyder på, at begge har været sognekirker, er det rimeligt at antage, at byen er blevet til før ca. år 1200. I løbet af 1200-tallet blev det nemlig almindeligt, at en ny by kun blev forsynet med én sognekirke.
Vor Frue Kirke er placeret på et bakkedrags højeste punkt, mens den nu nedlagte Sankt Peders Kirke var lavere beliggende på et bakkedrag nordøst herfor. Kirkens placering kendes fra iagttagelser ved jordarbejde på Slotsgade omkring år 1900. Det er i området omkring Sankt Peders Kirke, at byens vejforløb, heriblandt den daværende hovedgade, Adelgade, med oprindelse i middelalderen ligger.
De få arkæologiske undersøgelser, der er gennemført i det centrale Skive, har kun formået at give et fragmentarisk indtryk af karakteren af den ældste bebyggelse. I området omkring Reberbanen, mellem de to kirker, blev der i 2006 fundet et keramikværksted, dateret til slutningen af 1200-tallet. På en grund lidt øst herfor blev der under næsten 4 m tykke kulturlag fundet spor af bebyggelsesstrukturer i form af velbevarede flethegn. Herudover er der under Posthustorvet fundet tykke affaldslag fra 1300‑1400-tallet samt spor efter en opstemmet dam, der menes at være relateret til en senmiddelalderlig vandmølle på stedet.
Ligesom de øvrige mindre byer ved Limfjorden var Skive indtil 1800-tallet hæmmet af Aalborgs dominans i denne region. For ganske vist havde Skive siden 1530 formelt handelsmonopol inden for en radius af 2 mil (15 km), men Aalborgkøbmændene havde ret til at handle overalt langs Limfjorden. Erhvervslivet i Skive var også svækket af, at mange bønder i Salling drev handel uden om købstaden. Nogle af disse bønder slog sig imidlertid ned som købmænd i byen. Ølbrygning og landbrug var i lang tid to af byens vigtigste næringsveje; sidstnævnte blev bl.a. stimuleret ved, at kongen i 1546 overdrog landsbyen Brårups jorder til købstaden. Under krigene fra 1627 til 1660 var Skive besat af fremmede tropper i tilsammen seks år, og i 1700-tallet blev byen ramt af fire store og flere mindre brande. Sammen med de generelt dårlige økonomiske konjunkturer i det meste af 1700-tallet førte dette til en langvarig krisetilstand, som først for alvor blev afhjulpet efter ca. 1830. I 1672 blev der registreret 529 indbyggere. I 1769 var tallet faldet til 435 og i 1801 steget en anelse til 520, hvilket betød, at byen i denne periode efter folketal hørte til i den nederste fjerdedel af de danske byer. I 1850 var antallet af indbyggere imidlertid steget til 1.256. Skive var amtmandsdomicil i perioden 1660‑1794 og hjemsted for regionens amtstue (betalingssted for statsskatter) indtil 1790.
Skives befolkningstal blev fordoblet mellem 1850 og 1880, og væksten var endnu kraftigere i de følgende årtier, så i 1916 var købstaden kommet op på 5.716 indbyggere, hvortil kom 1.335 i forstaden Skive Landsogn. Fra og med 1890’erne skete der også en kraftig udvidelse af byens bebyggede område. Udviklingen må ses i lyset af, at Skive fik jernbaneforbindelse til Viborg, Struer og Glyngøre i hhv. 1864, 1865 og 1884, og at Skive fik sit første havneanlæg 1868‑69. Havnen blev anlagt på en grund, som byen havde lejet af herregården Krabbesholm. I 1906 blev Krabbesholm opkøbt af byen, som dog året efter afstod hovedbygningen til en højskole.
I anden halvdel af 1800-tallet oplevede Skive en specialisering af handelslivet, og fra 1880 til 1914 blev der etableret næsten 50 nye industrivirksomheder i købstaden og landsognet. Selv om de fleste var ganske små, var det et udtryk for en positiv konjunkturudvikling på landet, idet de fleste af virksomhederne enten forarbejdede landbrugsprodukter med henblik på eksport til England, producerede landbrugsredskaber eller fremstillede forbrugsvarer til det voksende antal købedygtige beboere i Skive og opland. Det drejede sig bl.a. om to svineslagterier, et stort jernstøberi, en børstefabrik, tobaks- og mineralvandsfabrikker samt bryggeriet Thordal, det senere Hancock Bryggerierne. På samme tid blev Skive bl.a. forsynet med en ny kirke (1896‑98), en apostolisk kirke (1913), et missionshus (1898), en teknisk skole (1891), et museum (1910), et bibliotek (1878), vand-, gas- og elværker (1896‑1906) samt et nyt sygehus (1885‑88). Der skete også en massiv vækst i antallet af folkelige foreninger, og i 1914 havde næsten 100 foreninger, klubber og loger adresse i byen.
Skive oplevede en støt befolkningsvækst op gennem 1900-tallet. Efter at Skive Landsogn og havnebebyggelsen var blevet indlemmet i købstadskommunen i 1925, nåede byen i 1930 op på 9.644 indbyggere. I 1945 var antallet 12.555, og i 1960 var det 15.558. Der skete også en væsentlig styrkelse af Skives infrastruktur takket være flere havneudvidelser fra 1902 til 1960, åbningen af Vestsallingbanen mellem Skive og Rødding i 1924, opførelsen af en ny banegård tæt ved byens centrum i 1962 samt en forbedring af vejnettet i oplandet. Selv om byen havde god handel pga. det frugtbare opland, var den i store dele af 1900-tallet først og fremmest en industriby. Således blev mere end 40 % af befolkningen forsørget ved industri og håndværk i 1950. Især maskinindustrien fik stor betydning. Byen fik en væddeløbsbane i 1948, et seminarium i 1952 og endnu en kirke i 1960.
Også i de sidste årtier af 1900-tallet havde Skive et alsidigt erhvervsliv med mange industrier, men byen markerede sig også i stigende grad som uddannelsesby, og en stadig større del af befolkningen blev beskæftiget i servicefag. Af særlig stor betydning var det, at Skive i 1969 blev hjemsted for en kaserne. I 2006 havde byen et indbyggertal på 20.572.
