Umiejętności malarstwa uczył się prywatnie u Františka Ženíška. W latach 1907−1909 studiował w Technikum Artystycznym w Pradze pod kierunkiem profesora Vlaha Bukovaca, później udał się do Akademii Sztuk Pięknych w Pradze, studiów jednak nie ukończył. W 1912 roku wystawiał prace ze stowarzyszeniem Sursum, a sześć lat później był współzałożycielem grupy artystycznej Tvrdošíjní. W latach 1913−1923 był członkiem Stowarzyszenia Artystów Plastyków Mánes. Podróżował po Bretanii i Wenecji, dokąd wielokrotnie wracał. W kraju odkrywał niezwykłe miejscowości, w tym miasto Ostrawę. Odpady wydobyte razem z węglem i przechowywane w ogromnych pagórkowatych formacjach na powierzchni stworzyły podczas setek lat rozwoju przemysłowego w Ostrawie niezwykłe zjawisko krajobrazowe, które stało się ulubionym motywem takich artystów jak Ferdiš Duša, Vladimír Kristin, Vilém Wünsche, Stanislav Kolíbal, Svatoslav Böhm lub Viktor Kolář i Miloš Polášek. Do tych artystów dołączył również Jan Zrzavý, którego ostrawski krajobraz zauroczył w 1932 roku, kiedy wystawiał w Domu Sztuki.