С 1893года учился живописи в Париже, также выставлялся. Осенью 1896 года Зарубин переехал в Петербург и был принят в число учеников Высшего художественного училища при Императорской Академии художеств, где учился у А. И. Куинджи. На конкурсе 1898 года удостоен звания художника первой степени. С 1897 года принимал участие в годичных и весенних выставках в залах Академии художеств.

В 1909 году был удостоен звания академика. В годы советской власти занимался оформлением революционных праздников, организацией выставок ленинградских художников. Также экспонировался в эти годы.