Tampereen taidemuseo avattiin Tampereen taideyhdistyksen aloitteesta 31.10.1931. Museo on toiminut koko olemassaolonsa ajan C.L. Engelin suunnittelemassa, 1838 valmistuneessa viljamakasiinirakennuksessa Pyynikintorin reunalla. Rakennuksen muutospiirustukset taidemuseoksi 1931 laati tamperelainen arkkitehti Hilja Gestrin. Tiiliseinät, lämmitysuunit ja viljalaarit vaihtuivat ajanmukaisiksi näyttely- ja toimistotiloiksi. Tampereen taidemuseon rakennus on kaupungin kolmanneksi vanhin rakennus. Tampereen taidemuseo ja Pyynikintorin alue ovat kulttuurihistoriallisesti läntisen keskustan tunnetuimpia kaupunkitiloja.

Rakennuksen toinen suuri peruskorjaus tehtiin 1982-84, jolloin tilat laajenivat maanalaisella kerroksella ja ne varustettiin nykyaikaisella museotekniikalla. Taidemuseo siirtyi Tampereen kaupungin hallintaan 1985 ja museo toimii nykyään osana Tampereen museoita.