Первые попытки создать в составе военно-морского флота специальные разведывательно-диверсионные подразделения, использующие водолазное снаряжение, были предприняты во время Второй мировой войны. Одним из подобных подразделений стала Рота особого назначения, сформированная на Балтийском флоте в августе-сентябре 1941 года, в которую вошли ученики Выборгского водолазного училища. Позже подобные подразделения были созданы на Тихоокеанском и Черноморском флотах. Морской спецназ быстро доказал свою способность успешно выполнять самые разнообразные задачи: начиная с разведки и диверсий на территории противника и заканчивая подъемом ценных документов с затонувших кораблей. Но, несмотря на это, по окончании войны разведывательно-диверсионные подразделения ВМФ было решено расформировать "за ненадобностью".
Возрождать морской спецназ принялись лишь в начале 50-х годов. Тогда за несколько лет на всех основных флотах (Черноморский, Балтийский, Тихоокеанский и Северный) были созданы Морские разведывательные пункты, предназначенные для подготовки бойцов спецназа ВМФ (намного позже, в 1969 году, небольшой аналогичный пункт был создан и в составе Каспийской флотилии). Рождение этих пунктов было очень трудным. Не хватало всего: технических средств, финансов и даже опытных инструкторов. Поэтому по-настоящему полноценными боевыми единицами Морские разведывательные пункты стали только в начале 60-х годов.
Примерно к этому же времени на вооружение спецназа ВМФ стали активно поступать спецсредства: подводные буксировщики, мины, контейнеры для транспортировки оборудования и людей и т.д.
Здесь следует отметить, что спецназ ВМФ многие относят к спецназу ГРУ. Отчасти это действительно так: морской спецназ подчиняется ГРУ через разведуправление флотов. Однако между самим спецназом ВМФ и спецназом ГРУ куда больше различий, чем сходств. Существенно разнятся внутренняя структура, область боевого применения и общая подготовка, которая, кстати, всегда находилась на впечатляющей высоте. Об этом говорит тот факт, что именно бойцы ВМФ в свое время занимались подготовкой водолазов для знаменитого подразделения специального назначения КГБ "Вымпел". Морские спецназовцы разрабатывали и оттачивали уникальные приемы, такие как, например, прыжок с парашютом на воду со сверхмалой высоты (около ста метров). При этом парашютист был одет в водолазное снаряжение, что позволяло ему приступать к действиям сразу же после приводнения. Спецназ ВМФ регулярно проводил совместные учения с ПДСС (Противодиверсионные силы и средства — подразделения в составе ВМФ, задачей которых является противодействие диверсиям на флоте), проверяя прочность морских границ, "минируя" и "угоняя" корабли. В подобных учениях боевые пловцы практически всегда одерживали верх. Проводил спецназ ВМФ и "экзотические" тренировки, вроде отработки операции по освобождению захваченного террористами корабля. Помимо учебных задач приходилось решать и реальные — например, именно водолазы спецназа ВМФ работали на затонувшем 31 августа 1986 года теплоходе "Нахимов". Перед боевыми пловцами стояла совсем не боевая задача — достать тела тех, кто не смог спастись.
Распад СССР чуть не привел к инциденту, который был бы вписан в самые черные страницы истории спецназа. 17-я бригада специального назначения ВМФ, входившая в состав Черноморского флота, была передана во флот Украины. Россия лишилась одного из лучших подразделений ВМФ, подготовка которого заметно выделялась даже на фоне других отрядов спецназа. Это был сильный удар, причем не только для России, но и для самой 17-й бригады. Часть покинуло множество отличных специалистов, которые предпочли украинской присяге службу в расположенных на территории России частях спецназа ВМФ. Оставшиеся спецназовцы большую часть времени просиживали штаны — денег на практические занятия не было. Уровень подготовки части стремительно падал. Однако к лету 1995 года, когда раздел Черноморского флота в очередной раз привел к обострению отношений между Россией и Украиной, бойцы бригады все еще обладали навыками, достаточными для того, чтобы с высокой вероятностью успеха выполнить приказ, поставленный перед ними Украинским командованием. Согласно ему, из бойцов бригады было набрано 15 отлично вооруженных групп, которые выдвинулись к месту базирования Черноморского флота. В случае дальнейшего ухудшения положения эти группы должны были воспрепятствовать выводу кораблей в море и захватить штаб Черноморского флота, охранявшийся частями российской морской пехоты. Известно, что большинство бойцов спецназа в душе были не согласны с позицией командования и совсем не хотели воевать против людей, с которыми они еще совсем недавно служили в одной армии. Но в случае получения приказа на силовое воздействие он был бы выполнен, послужив началом небольшой войне в Севастополе. Однако все обошлось — инцидент уладили на дипломатическом уровне.
Несмотря на потерю 17-й бригады, Россия до сих пор обладает отлично подготовленными частями спецназа ВМФ. Это была тяжелая утрата, но морские разведывательные пункты остальных флотов смогли ее восполнить. Пришлось бойцам спецназа ВМФ и "понюхать пороху". Несмотря на исключительно сухопутный характер второй Чеченской кампании, там нашлось место и боевым пловцам. На некоторое время они были введены в состав морской пехоты и служили в качестве разведывательных подразделений.
На сегодняшний день, по официальным данным, спецназа ВМФ в Чечне нет.