Historien om ARoS Aarhus Kunstmuseum begyndte, da den daværende Aarhus Malerisamling, som det første kunstmuseum i provinsen, blev oprettet i 1858. Museet var indrettet på loftet af det nye rådhus i Mejlgade. Allerede i 1851 havde man anmodet Kultusministeriet om hjælp til at grundlægge en malerisamling ved afgivelse af malerier fra Statens Offentlige Samlinger. Anmodningen kom fra en række embedsmænd og centrale borgere og blev positivt modtaget. Med den liberale grundlov af 1849 havde borgerskabet vundet politisk indflydelse og fandt sin selvforståelse og ret til magten i rollen som dannelseselite. I Aarhus fik denne øgede interesse sit første udtryk i dannelsen af Aarhus Kunstforening af 1847, hvis medlemmer var de samme, som stod bag anmodningen til Kultusministeriet. I 1858 blev anmodningen om donation af malerier godkendt. Den anden store bidragyder til museets tidlige samling var Aarhus Kunstforening af 1847, der donerede en række billeder.
I 1871 begyndte man at indsamle midler til opførelsen af en egentlig museumsbygning, og d. 20. maj 1877 slog man dørene op til V.Th. Walthers historicistiske museumsbygning i barokstil, der var den første museumsbygning opført til formålet uden for København. Museet var en dobbeltbygning, og kunstmuseet delte frem til 1881 bygningen med Stiftsbiblioteket. Herefter rykkede oldtidssamlingen ind og skabte et lokalefællesskab, der varede indtil 1967. I 1890 var museet blevet en selvejende institution, og samlingerne overgik til museet.
I 1958 gav Aarhus Kommune penge til en grund i Vennelystparken, hvor C.F. Møller skulle stå for udformningen af et nyt museumsbyggeri. Det nye byggeri stod færdigt i 1967 og husede museet frem til 2004, hvor et nyt byggeri af Schmidt Hammer Lassen Architects blev opført. Ved denne lejlighed skiftede museet navn til det nuværende ARoS Aarhus Kunstmuseum. Placeret i byens centrum og med en museumsgade, der skærer sig gennem bygningen, åbner museet sig for en social brug. I 2011 blev en installation af den dansk-islandske kunstner Olafur Elíasson, Your Rainbow Panorama, indviet på taget af museet.
ARoS Aarhus Kunstmuseums samling spænder over 250 år, begyndende med Nicolai Abildgaard. Museet har en af landets mest omfangsrige samlinger af dansk guldalder og nationalromantik med flere hovedværker fra perioden. Museet har også en fornem samling af Vilhelm Hammershøi og P.S. Krøyer fra omkring år 1900.
Det modernistiske gennembrud er rigt repræsenteret på museet, hvis samlinger tæller flere hovedværker af kunstnere som Harald Giersing, Edvard Weie, Olaf Rude og Vilhelm Lundstrøm. Museet har ligeledes en stor repræsentation af 1960’er-avantgardens og Eks-skolens medlemmer, inkl. store enkelt-kunstnersamlinger af bl.a. Bjørn Nørgaard, Paul Gernes og Per Kirkeby. Ligeledes har De Unge Vilde fra 1980’erne sat deres aftryk med værker af Erik A. Frandsen, Claus Carstensen, Christian Lemmerz og Michael Kvium.
Fra nyere tid er også den internationale samtidskunst repræsenteret, og museet har de seneste år erhvervet installationer af bl.a. James Turrell, Bill Viola, Shirin Neshat, Pipilotti Rist og Elmgreen & Dragset (Michael Elmgreen og Ingar Dragset).
I dag er ARoS et kulturelt og dynamisk omdrejningspunkt i byen. Her møder man kunsthistoriens vigtigste navne, ligesom man kan orientere sig i den eksperimenterende samtidskunst. Det nye formidlingscenter ARoS Public er et bud på et moderne forsamlingshus med debatarrangementer, atelier og biograf. Den nyetablerede kunstfestival ARoS Triennale fra 2017, der afløste skulpturudstillingen Sculpture by the Sea (2009‑15), har skabt mere fokus på ARoS også uden for museet.
