Józef Jarosz rozpoczął studia artystyczne w Warszawskiej Szkole Rysunkowej, gdzie - w latach 1907-1910 - uczył się pod kierunkiem M. Kotarbińskiego i J. Kauzika.
Następnie - w latach 1910-1915 - kształcił się w warszawskiej Szkole Sztuk Pięknych u S. Lentza, I. Pieńkowskiego i K. Tichego.
W latach 1919-1939 wielokrotnie brał udział w wystawach Towarzystwa Zachęty Sztuk Pięknych, po wojnie wystawiał wraz z grupą „Zachęta“ i „Zalesie“, do których należał.
Malował przede wszystkim pejzaże.