Arkkitehti Pauli E. Blomstedt hahmotteli vuonna 1932 juuri perustetulle Keski-Suomen Museo -yhdistykselle museorakennusta Ruusupuistoon Jyväskylään mahdollisen tieteellisen kirjaston yhteyteen. Hanke kuitenkin kariutui Keski-Suomen Museoyhdistyksen niukkoihin rahavaroihin ja museo aloitti toimintansa Cygnaeuksenkadulla sijainneessa pienessä tiilitalossa.
Oman rakennuksen saaminen tuli uudelleen ajankohtaiseksi v. 1954, jolloin Jyväskylän kaupunginvaltuusto hyväksyi asemakaavan muuttamisen ja Ruusupuiston alueen luovuttamisen museotarkoituksiin. Ruusupuisto soveltui hyvin museon sijoituspaikaksi puistomaisuutensa ja korkeakoulun läheisyyden vuoksi. Keski-Suomen Museoyhdistys oli kääntynyt Alvar Aallon puoleen jo vuonna 1953 ja lopulliset piirustukset valmistuivat vuonna 1959. Aalto lahjoitti ne yhdistykselle ”osoituksena tuntemastaan kiintymyksestä kotiseutuaan kohtaan”.
Vuonna 1976 Aalto laati alustavat luonnokset ahtaaksi käyneen museon laajentamiseksi, mutta taloudellisista ja asemakaavaan liittyvistä syistä johtuen laajennuksen rakentaminen siirtyi yli vuosikymmenellä eteenpäin. Laajennuksen toteutuessa vanhat suunnitelmat eivät enää soveltuneet sellaisenaan toteutettaviksi.
Vuonna 1990 Arkkitehtitoimisto Alvar Aalto & Co:n suunnittelemassa museon peruskorjauksessa ja laajennuksessa uuden sisääntuloaulan lisäksi alakertaan valmistui vaihtuvien näyttelyiden tila sekä auditorio. Laajennuksen yhteydessä museon edustalla sijainneet vanhat käsityöläistalot siirrettiin ensin alemmaksi Ruusupuistoon ja vuonna 2010 nykyiselle paikalleen Toivolan Vanhaan Pihaan.
