Артиллерия как вид оружия появилась во внутренней страже (предшественнице внутренних войск) в середине XIX века, когда были созданы Нижегородский, Казанский, Симбирский, Вятский, Пермский, Самарский и Саратовский внутренние гарнизонные батальоны, которые имели по два трехфунтовых единорога каждый.
После Октябрьской революции процесс создания внутренних войск занял весь 1918 г . и часть 1919 г . В штате каждого батальона корпуса войск ВЧК находился один артиллерийский взвод. На начало 1919 г . в войсках ВЧК имелось 33 орудия. К началу 1920 г . после объединения войск ВЧК с другими частями вспомогательного назначения и создания войск ВОХР в них имелось 6 артиллерийских батарей, которые придавались тем формированиям войск ВОХР, которые направлялись на фронты гражданской войны. После преобразования этих войск в сентябре 1920 г . в войсках внутренней стражи каждой из сформированных бригад предусматривалось иметь по штату 4-х орудийную батарею.
В 1932 г . в состав войск ОГПУ были переданы зенитно-пулеметные и зенитно-артиллерийские подразделения и части. Во время советско-финляндской войны в боевых действиях участвовали и отличились 2-й, 5-й и 10-й отдельные зенитно-артиллерийские дивизионы, а также артиллерийская батарея ОДОН. Однако 27 января 1941 г . совместным приказом НКВД и НКО СССР на основании постановления СНК СССР и ЦК ВКП(б) 13 отдельных зенитно-артиллерийских дивизионов и 42 зенитно-пулеметные роты общей численностью 8 тыс. чел. были изъяты из состава войск НКВД и переданы Наркомату обороны.
За годы Великой Отечественной войны в состав действующей армии в разные периоды входили и участвовали в боях 53 дивизии и 20 бригад, (в т.ч. одна артиллерийская) войск НКВД. Два полка отдельной артиллерийской бригады войск НКВД за успешные действия на Волховском фронте приказом Верховного главнокомандующего от 21 января 1944 г . удостоены почетного наименования «Новгородских».
В феврале 1942 г . в штат стрелковых полков были введены артиллерийские подразделения, на вооружении которых состояли 4 ед. 76-миллиметровых орудия, 4 ед. 45-миллиметровых орудия, 6 ед. 82-миллиметровых миномета, 18 ед. 50-миллиметровых минометов.
По состоянию на 1 января 1946 г . на вооружении внутренних войск имелось: 22 ед. 122-миллиметровых пушек, 103 ед. 76-миллиметровых пушек, 127 ед. 45-миллиметровых пушек, 156 ед. 82-миллиметровых минометов, которые использовались в борьбе с националистическим подпольем на территории Западной Украины и Прибалтики.
В период 1995–2001 гг. в ходе совершенствования организационно-штатной структуры внутренних войск изменялись состав и структура войсковой артиллерии. Была сформирована бригадная, полковая и батальонная артиллерия.
25 марта 1995 г . в Главном управлении командующего внутренними войсками МВД России сформирован отдел боевого применения артиллерии и средств противовоздушной обороны, который в октябре 2001 г . вошел в состав главного штаба ВВ МВД России как самостоятельное подразделение. В октябре 2007 г . отдел преобразован в штаб артиллерии.
Имеющиеся во внутренних войсках артиллерийские подразделения в настоящее время способны полностью обеспечить выполнение задач, возложенных на подразделения оперативного, специального назначения и разведки внутренних войск.
В последние годы офицеры-артиллеристы внутренних войск МВД России постоянно принимают участие в Конкурсе по полевой выучке командиров дивизионов и Всеармейских состязаниях командиров артиллерийских батарей, в ходе которых показывают неизменно высокий уровень профессионального мастерства и занимают призовые места среди представителей военных округов, флотов и ВДВ Минобороны России.