В середине 70-х годов, когда терроризм стал реальной угрозой для многих цивилизаций, в СССР сочли необходимым иметь воинские подразделения, предназначенные для выполнения особо сложных задач по борьбе с преступностью. В Министерстве внутренних дел было решено создать в составе Отдельной дивизии оперативного назначения им. Дзержинского роту специального назначения. Военнослужащих срочной службы в это подразделение набирали из числа лучших спортсменов дивизии и исключительно на добровольной основе.

От 29 декабря 1977 года, дня сформирования этой первой роты специального назначения, и ведет свою историю элитное подразделение внутренних войск - отряд «Витязь», образованный в 1991 году на ее основе. Первым большим делом спецназовцев стало обеспечение общественной безопасности на Олимпийских играх в Москве. В 1981 году рота специального назначения участвовала в освобождении детей, захваченных террористами в одном из сел близ Ижевска. В 1986 г. с ее участием была ликвидирована группа преступников, попытавшихся захватить самолет в Уфе. А в 1990 г. «Витязь» совместно с группой «Альфа» обезвредили задержанных, устроивших беспорядки в Сухумском следственном изоляторе.

Отряд привлекался к разрешению практически всех межнациональных конфликтов на территории бывшего СССР, а также к борьбе с незаконными вооруженными формированиями на территории Чечни.

180 воинов отряда удостоены государственных наград, а пятеро из них - полковник Сергей Лысюк, полковник Александр Никишин, полковник Олег Кублин, рядовой Николай Ситников (посмертно), сержант Сергей Бурнаев (посмертно) - удостоены высокого звания Героя России.

Первым символом воинов-спецназовцев стал берет крапового цвета. Идея сдавать особый экзамен на право ношения берета этого цвета родилась именно в «Витязе».

ОСН «Витязь» по праву считается одним из лучших подразделений внутренних войск МВД России. Таким быть ему и впредь.