Заложена 20 января 1938 года под стапельным номером 253 на заводе № 112 (Красное Сормово) в Горьком. 5 октября 1939 года подводная лодка спущена на воду. После проведения швартовых испытаний и подписания приемного акта субмарина погружена на железнодорожный транспортер и доставлена на Черное море. 31 августа 1940 года «М-62» вошла в состав Черноморского флота.

    Накануне войны «М-62» закончила гарантийный ремонт и 22 июня 1941 года находилась в оргпериоде в Севастополе в составе 7-го дивизиона 2-й бригады ПЛ ЧФ. Командовал кораблем старший лейтенант Воробьев Алексей Александрович. В первый день Великой Отечественной подводная лодка перешла в Балаклаву, откуда уже 27 июня вышла в дозор в район юго-западнее мыса Сарыч (позиция № 2). Далее последовали боевые выходы к мысу Сарыч, в район юго-восточнее Одессы (позиция № 7), к мысу Бурнас (позиция № 16), и в район Сулины (позиции № 17 и № 18). Встреч с кораблями противника не было.

    7 ноября 1941 года в результате неправильного обращения с личным оружием смертельно ранил сам себя командир субмарины старший лейтенант Воробьев. На следующий день он умер. 12 декабря командиром «М-62» назначен старший лейтенант (впоследствии капитан-лейтенант) Малышев Николай Иванович.

    С 29 ноября подводная лодка находилась в дозоре западнее Поти. 6 декабря при возвращении в базу, в результате шторма и ошибки в счислении пути, она села на мель в районе устья реки Гагида. Только 17 декабря «М-62» благополучно снята с мели, но ее кормовая часть была сильно повреждена, вертикальный и кормовые горизонтальные рули оказались сломанными.

    Только в июле 1942 года «М-62» вышла из ремонта. Вечером 1 августа «М-62» вышла в море с задачей навигационного обеспечения набеговой операции советских кораблей на Феодосию, где по данным разведки противник стягивал плавсредства для десанта на Таманский полуостров. Крейсеру «Молотов» была поставлена задача обстрелять из своих орудий Феодосийский порт, а лидеру «Харьков» – причалы в Двуякорной бухте. Субмарина должна была обозначить свое место белым огнем прожектора для обеспечения ориентировки и надежной обсервации кораблей. Согласно приказу, в ночь на 3 августа в назначенном месте подводная лодка включила огонь, но с самого начала операции все пошло не так, как было задумано. Вышедшие вечером 2 августа из Туапсе корабли были обнаружены вражеской авиаразведкой. Скрытность операции была нарушена. Пытаясь дезориентировать врага, корабли легли на ложный курс, потеряв время. В итоге, отряд вышел в 12 кбт западнее точки рандеву с подводной лодкой, ее огонь не был замечен. (Лидер «Харьков» выпустил по причалам в Двуякорной бухте 59 – 130-мм снарядов, «Молотов» огня не открывал. При отходе корабли были атакованы немецкими самолетами-торпедоносцами из 6./KG 26 и итальянскими торпедными катерами «MAS-568» и «MAS-573». По советским данным по кораблям было выпущено не менее 22 торпед, одна из которых попала в «Молотов». Крейсер лишился кормы до 262-го шпангоута, потеряв убитыми 18 членов экипажа. К счастью, корабль сумел сохранить ход и дошел до Поти. Немцы потеряли два самолета). Продолжая крейсерство в районе Судак – Феодосия, днем 7 августа «М-62» атаковала конвой десантных барж. После пуска торпед на субмарине зафиксировано два взрыва, а в перископ наблюдалась гибель цели. По данным противника безуспешной атаке подверглась десантная баржа «F-136», наблюдавшая следы торпед в 10 метрах по носу. Противник не оставил подводную лодку безнаказанной, сбросив в ответ 24 глубинных бомбы. В результате контратаки на субмарине поврежден кингстон уравнительной цистерны, и через лопнувший визир вода стала поступать в центральный пост. Оторвавшись от преследования, днем 8 августа «М-62» прибыла в Новороссийск.

    Следующие выходы подводной лодки в район Алушты и к острову Фидониси (позиция № 43) прошли без особых событий. Только однажды вечером 6 октября «М-62» имела боевой контакт с румынским конвоем. Обнаружив советскую субмарину, корабли эскорта сбросили в месте ее погружения несколько глубинных бомб, которые не поразили цель. В свою очередь, из-за неисправности гирокомпаса подводная лодка не сумела выпустить торпеды. Далее снова последовало безрезультатное крейсерство у Фидониси, после которого субмарина действовала у мыса Бурнас (позиция № 42). Днем 14 декабря «М-62» имела визуальный контакт с неприятельской подводной лодкой (вероятно, немецкой «U-24»). Противник не заметил присутствие советской субмарины, но «М-62» посчитала себя атакованной, и произвела маневр уклонения от вероятно выпущенных торпед. Днем 17 декабря, через 12 часов после прибытия на позицию «М-62» разрядила свои торпедные аппараты по судну, шедшему под охраной двух тральщиков и сторожевого катера, после чего подверглась длительному преследованию со стороны эскортных кораблей. К счастью, ими было сброшено всего 5 глубинных бомб на безопасном удалении от субмарины. На подводной лодке слышали взрывы двух своих торпед, но атакованное судно (вероятнее всего, румынский транспорт «Ardeal», либо транспорт «Durostor») прибыло в место назначения без потерь.

    В 1943 году «М-62» произвела 6 боевых походов (в январе подводной лодкой патрулировался район мыс Бурнас – Фидониси, позиция № 42-43; в марте – южный берег Керченского полуострова, позиция № 62; в апреле – район Сулина – Констанца, позиция № 71/81; в конце августа – первой половине сентября и первой половине октября субмарина действовала у Севастополя, позиции № 83 и № 96; а в середине ноября в районе Тарханкут – Сулина – Констанца, позиции № 91 и № 100). Противник был встречен лишь дважды: 11 марта у берегов Крыма «М-62» не смогла атаковать конвой из-за обнаружения противником и контратаки сторожевого катера со сбросом 16 глубинных бомб, а 10 октября командир субмарины не стал атаковать конвой из-за малоценности цели. В последнем боевом походе, когда «М-62» по приказу командования производила поиск кораблей противника в направлении мыса Бурнас, подводная лодка при форсировании минного заграждения «S-35» коснулась минрепа, а затем запуталась в рыболовных сетях, освободиться от которых удалось с большим трудом.

    В начале декабря «М-62» встала на текущий ремонт в Поти, и вступила в строй в середине февраля 1944 года. Вечером 22 февраля подводная лодка направилась к Феодосии (позиция № 101). Обеспечивал боевой поход заместитель начальника управления подводного плавания ВМФ контр-адмирал Н.И. Виноградов. На переходе в назначенный район субмарина попала в сильный шторм. Много позже Виноградов вспоминал: «…Шторм и впрямь разыгрался не на шутку. Гребни волн захлестывали «малютку». Она с трудом двигалась вперед. <…> Дух в экипаже вполне боевой, и беспокоиться за людей не приходится – выдюжат. <…> А вот железо, увы, не выдерживает свирепого шторма. С жутким треском мощной волной оторвало от палубы и загнуло к корме ограждение рубки. Загнуло назад и магнитный компас. Теперь его показаниям веры не было. Да это еще бы полбеды, но очередной штормовой вал, накрыв лодку, хлестанул в центральный пост. Вода заполнила трюм, вывела из меридиана гирокомпас, залила нижнюю головку перископа. <…> Пришлось погрузиться, чтобы уйти от крутых встречных волн, привести в порядок корабль, ввести в строй гирокомпас. Только управились, всплыли – и тут же в центральный пост обрушилась новая водяная лавина. На этот раз гирокомпас вышел из строя всерьез. <…> Положение наше и впрямь было незавидным. Гирокомпас не работал. Магнитный компас показывал что угодно, но не то, что нужно. Ориентировку мы потеряли». По характеру глубин и береговым ориентирам подводная лодка определила свое место и вышла в район боевого патрулирования. Далее адмирал вспоминал: «А вот само пребывание на позиции проходило при более спокойной погоде, без особых приключений, но и, увы, без встреч с врагом. <…> Видимость была хорошая. Вахты неслись бдительно. Однако прошли сутки, другие, третьи, но море оставалось пустынным». Противник был встречен только вечером 22 февраля, когда в точке 46°00,8' с.ш./31°30,6' в.д. «М-62» обнаружила караван буксиров с сухогрузными баржами. По одной из барж была выпущена торпеда, которая прошла под целью.

    В третьей декаде марта «М-62» патрулировала позиции № 101-б и № 104. Днем она действовала в районе западнее мыса Тарханкут, ночью смещалась южнее, на коммуникацию между Крымом и портами Румынии. Встреч с кораблями противника не было.

    К началу апреля 1944 года германская 17-я армия была блокирована в Крыму. Повторилась ситуация лета 1942 года, только теперь в роли обороняющихся были немцы и румыны. На путях эвакуации противника были развернуты советские подводные лодки, торпедные катера, авиация.

    Вечером 12 апреля «М-62» вышла на коммуникации противника западнее мыса Тарханкут (восточная часть позиции № 7). Прибыв в назначенный район, все утро 15 апреля подводная лодка подвергалась 6-часовому преследованию сторожевых катеров противника. На субмарину было сброшено более шести десятков глубинных бомб. Оторвавшись от преследователей, вечером 21 апреля «М-62» перешла в район юго-западнее мыса Сарыч (позиция № 9), где днем 22 апреля в точке 43°51,5' с.ш./31°10,5' в.д. атаковала транспорт их состава конвоя. Через 135 секунд после пуска торпед на субмарине зафиксировали взрыв. Цель просчиталась уничтоженной. Эскорт конвоя контратаковал подводную лодку, сбросив 14 глубинных бомб, не добившись успеха. Как собственно, и сама подводная лодка. Атакованный ею румынский транспорт «Ардял» повреждений не получил, и благополучно прибыл в место назначения.

    Утром 24 апреля «М-62» прибыла в Туапсе, но уже к вечеру, перезарядив торпедные аппараты и пополнив запасы, снова вышла в море. На этот раз подводной лодке предстояло патрулировать район юго-западнее мыса Херсонес (позиция № 7). На исходе 3 мая в точке 44°33,0' с.ш./ 32°12,5' в.д. «М-62» атаковала транспорт из состава конвоя. Взрыв первой торпеды на подводной лодке наблюдали визуально, взрыв второй был слышен в момент погружения субмарины. Вероятно, атаке «М-62» подверглись суда из конвоя «Рихтер» (к этому моменту в его состав входили лихтер «Вар», два буксира, пять десантных барж в охранении трех охотников «KFK»), но торпеды взорвались, пройдя под целью. (Объектом атаки в разных источниках называют лихтер «Вар» либо буксир «Тебен»). Сопровождающие конвой корабли сбросили в предполагаемом месте погружения субмарины 2 глубинных бомбы.

    Прибыв в Туапсе, подводная лодка снова не задержалась в базе. Уже вечером 7 мая «М-62» направилась в район юго-западнее мыса Тарханкут (позиции № 3 и № 4). Прибыв в назначенный район, в ночь на 11 мая субмарина подверглась безрезультатному обстрелу неизвестного вражеского корабля. (Вероятно, огонь вел охотник типа «KFK», по докладу командира – подводная лодка). Вечером в тот же день, используя данные авиаразведки «М-62» в 60 милях западнее Херсонеса атаковала группу боевых кораблей. Через 40 секунд после пуска торпед на субмарине зафиксирован взрыв, а вскоре и контратаку противника, сбросившего 5 глубинных бомб. Атаке «М-62» подвергся охотник «Uj-105», находившийся вместе с канонерской лодкой «Capitan Dumitrescu» в охранении поврежденного советской авиацией венгерского транспорта «Tisza» (961 брт) из состава изрядно потрепанного конвоя «Prophet».

    Вернувшись в Очемчири, «М-62» вскоре поступает в распоряжение командира Туапсинской ВМБ для подготовки акустиков сторожевых катеров. В ходе ремонта подводная лодка стала единственной из субмарин Черноморского флота, оснащенной приборами установки глубины хода торпед и прибора Орби (ПУПО и ПУГ).

    22 июля 1944 года подводной лодке «М-62» присвоено звание «Гвардейская», а ее командир капитан 3 ранга Н.И. Малышев 16 мая 1944 года удостоен Золотой Звезды Героя Советского Союза. (6 мая 1952 года указом Президиума Верховного Совета СССР за совершение преступления он был лишен наград и звания Героя).

    Последний боевой поход «М-62» пришелся ко времени окончательного изгнания немцев с черноморских берегов. Днем 20 августа подводная лодка заняла позицию в районе Варна – Каварна. За время патрулирования субмарина дважды упустила момент для атаки. 22 августа торпеды не вышли по конвою десантных барж из-за неправильного маневрирования субмарины, а утром 25 августа командир подводной лодки отказался от атаки трех транспортов, посчитав их судами-ловушками.

    Вернувшись в Новороссийск, 16 сентября «М-62» вновь направилась на позицию, но на следующий день была возвращена в базу, так как боевые действия на Черном море завершились. Вскоре подводная лодка встала на текущий ремонт. 27 ноября командиром корабля назначен капитан-лейтенант Хаханов Сергей Николаевич, который командовал «М-62» до ноября 1947 года.

    17 августа 1953 года подводная лодка выведена из боевого состава флота, разоружена и сдана на разборку.