Ostravský stavitel František Jureček se stal duchovním otcem výstavby tzv. Výstavního pavilónu, dnešního Domu umění. Bohužel jeho slavnostního otevření se již nedočkal, protože 5. října 1925 zemřel. Již před svou smrtí se rozhodl věnovat spolku podstatnou část své sbírky výtvarného umění, s dominancí v české malbě 19. století, s myšlenkou instalovat ji a zpřístupnit veřejnosti jako trvalou galerijní expozici. Její postupné rozšiřování se stalo základem i nynější instituce. Počátky sbírkové činnosti jsou spjaty s entuziasmem jednotlivých osobností ostravského kulturního života (A. Sprušil) a dary mnoha dalších významných soukromých sběratelů (E. Šebela, O. Federer).
Galerijní sbírky také rostly deponovanými díly zakupovanými ministerstvem kultury z výstav spolku a po válce. Poté, co byla zrušena spolková zařízení a byla zřízena státní galerijní struktura, byla tato díla do sbírek včleněna.
Po polovině 60. let došlo k vytvoření nové koncepce rozčlenění sbírkové skladby na umění českého 20. století a založení sbírky regionálního vývoje výtvarného života. Zásadně se dobudoval soubor českého malířství 19. století jako samostatný celek a byla založena sbírka evropského malířství, která usiluje o orientační ilustrování základních vývojových oblastí. V materiálu 19. a počátku 20. století se sbírka soustředila na umění středoevropské a východoevropské. V této části byly vytvořeny významnější celky umění ruského a rakouského.