Родился 14 января 1908 года в с. Гусыпка (Ростовская область). Русский. В 1930-1933 годах красноармеец, курсант 2-й школы погранохраны и войск ОГПУ. На фронте с июля 1941 года. Заместитель командира 22-й гвардейской мотострелковой бригады (1-й Украинский фронт) гвардии майор Зарубин 21 апреля 1945 года в боях на подступах к Берлину принял командование бригадой на себя. 25 апреля вместе с бойцами форсировал канал Тельтов. Умело организовал переправу частей бригады и приданных средств, завязал бой с противником на окраине Берлина и удержал захваченный рубеж. После войны продолжал службу в армии. С 1953 года в запасе. Награжден орденами Ленина, Александра Невского, Отечественной войны 1-й степени, тремя орденами Красного Знамени, двумя орденами Красной Звезды, медалями. Умер 9 декабря 1982 года.
Звание Героя Советского Союза присвоено 27 июня 1945 года.