Заложена 22 февраля 1939 года на заводе № 112 (Красное Сормово) в Горьком под заводским номером 269. Достройка субмарины производилась на заводе № 198 в Николаеве. 20 августа 1940 года подводная лодка спущена на воду, 31 января 1941 года вступила в строй и 24 февраля 1941 года вошла в состав Черноморского флота.

    К началу Великой Отечественной войны «М-35» находилась в оргпериоде в Севастополе. 22 июня 1941 года подводная лодка встретила под командованием старшего лейтенанта (впоследствии капитан-лейтенанта) Грешилова Михаила Васильевича (принял командование субмариной когда она еще находилась в постройке в июне 1940) в составе 8-го дивизиона 2-й бригады ПЛ ЧФ.

    В июле-августе 1941 года «М-35» трижды выходила на дозорное патрулирование районов юго-западнее мыса Тарханкут (позиция № 1) и северо-восточнее Фидониси (позиция № 6), где кораблей противника обнаружено не было. Так же безрезультатно завершились два сентябрьских выхода к мысу Бурнас (позиция № 16).

    Первый контакт с кораблями противника состоялся в шестом боевом походе. Днем 16 октября «М-35» вышла для патрулирования района у мыса Олинька (позиция № 19), а спустя двое суток обнаружила у острова Китук близ Портицкого гирла конвой из шести паромов Зибеля и трех буксиров. Обе выпущенные торпеды прошли под мелкосидящими целями, а сама подлодка была обнаружена и обстреляна противником, выпустившим по субмарине около 20 снарядов. Субмарина атаковала конвой в составе буксиров «Brusterort», «Drossel» и «Forsch» (все 101 брт), каждый из которых вел на буксире по паре паромов Зибеля: «SF-01» «SF-02», «SF-03», «SF-05», «SF-06», «SF-09». Израсходовав торпеды, утром 20 октября подводная лодка прибыла в Балаклаву.

    Следующее патрулирование этого района принесло первый успех. Утром 24 октября подводная лодка отказалась от атаки конвоя барж из-за малоценности цели, зато через двое суток у мыса Олинька обнаружила аналогичный конвой, состоящий из трех буксиров и шести паромов Зибеля. Учитывая предыдущий опыт неудачной атаки, командир субмарины принял решение атаковать артиллерией. «М-35» сблизилась с противником и с дистанции 3 кбт открыла артиллерийский и пулеметный огонь по концевому буксиру и паре паромов с ним. За 27 минут боя подводная лодка выпустила 110 45-мм снарядов и отстреляла 2 коробки лент к пулемету «Максим» (500 патронов). По наблюдениям подводников только 4 снаряда поразили цель, но и этого хватило для самоходного парома «SF-35». Ведущий суда буксир «Sublocotenent Vartosu» подвергся пулеметному обстрелу и, бросив концы, оставил их в море. Атаку субмарины прервал появившийся сторожевой катер, заставивший подводную лодку отойти. В ночь на 28 октября буксир «Elena» пытался привести брошенные «SF-35» и «SF-36» в Сулину, но получивший повреждения «SF-35» в итоге был потерян. На следующий день «М-35» подошла к берегу и в районе мыса Олинька на глубине 8,5 м легла на грунт, что позволило ей вести наблюдение в перископ. Вечером по пеленгу 18° субмарина обнаружила дым. Всплыв в надводное положение, подводная лодка начала сближение с целью и вскоре на рейде Сулины обнаружила стоящий на якоре транспорт в 9000 тонн. Малые глубины, не превышавшие здесь 3-4 м, не позволяли субмарине достаточно сблизиться с целью, но командир подлодки пошел на этот риск. Подойдя к цели в крейсерском положении, подлодка с дистанции 4 кбт выпустила торпеды. После атаки «М-35» погрузилась, а спустя минуту после пуска торпед на субмарине зафиксировали взрыв. Через 9 минут подводная лодка всплыла. Над атакованным судном наблюдалась шапка дыма. Цель посчитали уничтоженой. В действительности германский транспорт «Лола» (4500 брт) получил попадание неразорвавшейся торпедой, вторая торпеда прошла под целью и взорвалась при ударе о мол.

    Декабрьский поход к Одессе (позиция № 25) ничего, кроме встречи с плавающей миной при переходе в район действий не принес. С января 1942 года «М-35» привлекают к разведке. 9-11 января подлодка обследует порт Ялты, а с марта по май совершает шесть походов в Каламитский залив. В одном из таких походов 28 марта 1942 года при погружении субмарина сильно ударилась о грунт – вышел из строя вертикальный руль. Подводной лодке пришлось прервать выполнение задачи и в обеспечении буксира «СП-3» прибыть в Севастополь.

    В конце мая «М-35» перешла в Очемчири, где встала на текущий ремонт. 19 августа отремонтированная и прошедшая докование подводная лодка прибыла в Хопи, откуда на исходе 30 августа вышла в район мыс Бурнас – остров Фидониси (позиции № 42 и № 43). 5 сентября в точке 45°54' с.ш./ 30°20' в.д. «М-35» атаковала неизвестное судно, шедшее под охраной сторожевого катера. Дистанция до цели составляла 15-16 кбт, торпеды прошли мимо цели. Со стороны противника подводная лодка преследованию не подверглась и 8 сентября благополучно прибыла в Хопи.

    13 сентября «М-35» вновь вышла с задачей патрулирования этого района. На следующий день, срочным погружением уклоняясь от самолета противника, подводная лодка провалилась на глубину около 100 метров. Это случилось из-за неправильных действий стажера-курсанта. Благодаря своевременному вмешательству старшины трюмных Александра Сергеевича Морухова субмарина не достигла критической глубины. Это происшествие не помешало подводной лодке прибыть в назначенный район, где утром 20 сентября в точке 45°53'5 с.ш/ 30°21'4 в.д. «М-35» атаковала транспорт под эскортом пары сторожевых катеров. Спустя 30 секунд после пуска торпеды на подводной лодке услышали глухой взрыв. Противник зафиксировал безрезультатную атаку советской субмарины, а канонерская лодка «Гикулеску» даже контратаковала ее, сбросив 6 глубинных бомб. Через 22 часа в точке 48°22'8 с.ш./ 29°55'4 в.д. «М-35» использовала вторую торпеду по транспорту в 8000 тонн под охраной сторожевого катера. Атака проводилась из надводного положения с дистанции 6 кбт. Подводники наблюдали, как судно окуталось дымом, но продолжило движение. Преследования не было. Атакованный болгарский транспорт «Варна» прибыл в место назначения без повреждений и потерь, а подводная лодка, израсходовав боезапас, днем 24 сентября благополучно вернулась в Хопи.

    Следующий боевой поход «М-35» прошел у мыса Олинька (позиция № 44). Вечером 12 октября подлодка покинула базу и утром 15 октября прибыла на позицию. На следующий день подлодке представился случай пополнить свой боевой счет, но перед залпом боцман «утопил» перископ, из-за чего был пропущен угол упреждения, и атака не состоялась. Следующая возможность проявилась только 21 октября. Ночью «М-35» подошла на 50 кбт к порту Сулина и встала на якорь. В темное время суток подводная лодка находилась в надводном положении, и командир субмарины имел возможность наблюдать за движением судов на рейде Сулины. С наступлением рассвета «М-35», оставаясь на якоре, погрузилась на перископную глубину и продолжала вести наблюдение в перископ за входом в порт. Затем она снялась с якоря и в подводном положении приблизилась к порту, где вновь стала на якорь, продолжая вести наблюдение. Это давало субмарине возможность экономить электроэнергию и снижало опасность подрыва на вражеских минах, выставленных у побережья Румынии. Около 18 часов в 35 кбт у входа в порт «М-35» обнаружила германский танкер «Ле Прогресс» (511 брт) (в некоторых источниках, ошибочно, транспорт «Прогресс» в 6875 брт), шедший в охранении миноносца и двух сторожевых катеров. Сблизившись с судном на расстояние 4 кбт, подводная лодка выпустила по судну две торпеды. Взрывом танкер, который перевозил 348 тонн нефти и 149 тонн бензина, переломило пополам, 5 членов экипажа не пережили гибель своего судна. Сопровождавшие танкер румынская канонерская лодка «Стихи» и моторные катера-тральщики «R-33», «R-37» и «R-196» контратаковали подводную лодку, сбросив на нее 32 глубинных бомбы. На субмарине вышли из строя ряд электроизмерительных приборов и гидроакустическая станция, но она удачно уклонилась и ушла от противника. «Раумботам» ничего не оставалось, как глубинными бомбами потопить кормовую часть танкера, еще державшуюся на плаву. Вечером 24 октября «М-35» благополучно прибыла в Поти.

    18 ноября 1942 года командиром «М-35» стал капитан-лейтенант Прокофьев Владимир Матвеевич. Прежний командир субмарины получил под свое начало «Щ-215».

    Первый поход с новым командиром проходил в районе мыс Олинька – Портицкое гирло (позиции № 44 – 45). Большую часть времени подводная лодка маневрировала в районе южнее острова Фидониси, где встреч с противником не имела, поэтому когда 1 января 1943 года «М-35» вновь вышла в боевой поход, на ее борту в качестве обеспечивающего находился командир 3-го дивизиона ПЛ капитан 2 ранга Л.П. Хияйнен. Подводная лодка действовала в районе мыс Бурнас – остров Фидониси (позиции № 42 – 43). 7 января в точке 45°48' с.ш./ 30°16' в.д. «М-35» обнаружила и с дистанции 7 кбт атаковала болгарский транспорт «Царь Фердинанд». Через минуту после пуска торпед на субмарине зафиксировали глухой взрыв, цель посчитали пораженной. В действительности обе торпеды прошли мимо, а обнаружившие присутствие подводной лодки корабли сопровождения – румынские канонерские лодки «Думитреску» и «Гикулеску» – сбросили на безопасном удалении от субмарины 5 глубинных бомб.

    27 января «М-35» направлена на патрулирование района южнее мыса Тарханкут (позиция № 49/54). Прибыв в назначенный район в ночь на 30 января, подводная лодка утром 2 февраля не смогла атаковать конвой противника из-за неисправности вертикального руля. Пробыв на позиции еще четыре дня, субмарина направилась в базу, куда прибыла утром 9 февраля.

    Новый контакт с противником, завершившийся пуском торпед, состоялся в следующем боевой походе. На этот раз «М-35» патрулировала узкий сектор побережья Керченского полуострова между мысом Опук и меридианом 36° (позиция № 61). Днем 11 марта в точке 44°58,8' с.ш./ 36°02,7' в.д. субмарина выпустила торпеды по конвою десантных барж. Спустя три минуты на подводной лодке было услышано 2 отдаленных взрыва, после чего сопровождавшие конвой сторожевые катера контратаковали субмарину. В отличие от непострадавшей десантной баржи «F-170», по которой «М-35» выпустила торпеды, в результате точно сброшенных глубинных бомб на подводной лодке вышел из меридиана гирокомпас, получила повреждения гидроакустическая станция, заело привод фрикционной муфты дизеля. К счастью, противник не стал продолжать поиск субмарины, ограничившись сбросом всего четырех глубинных бомб.

    Следующее боевое патрулирование в районе Сулина – Констанца (позиция № 71), куда «М-35» вышла вечером 11 апреля и должна была действовать совместно с авиацией, прошло неудачно. В ночь на 17 апреля в точке 44°59' с.ш./ 31°10' в.д. при попытке атаковать конвой противника подводная лодка была обнаружена и контратакована румынским эсминцем «Марасешти» и германскими моторными тральщиками. Враг обстрелял субмарину артиллерией, а затем сбросил на погрузившуюся «М-35» 28 глубинных бомб, от разрывов которых подводная лодка получила незначительные повреждения. Субмарина продолжила патрулирование, но ничего не добилась.

    Несмотря на это, вскоре после возвращения подводников в базу (26 апреля), их ждало радостное известие. 31 мая подводной лодке «М-35» присвоено звание «Гвардейская».

    В первый боевой поход в новом статусе подводная лодка вышла вечером 19 июня. «М-35» предстояло патрулировать в районе Севастополя (позиция № 83). Через несколько часов после того, как «М-35» покинула Очемчири ее безуспешно атаковала торпедами и обстреляла артиллерией германская подводная лодка «U-24» (командир капитан-лейтенант Клаус Петерсен). Видя свой промах, «челнок» предпочел погрузиться. (За четыре дня до этого «U-24» в 20 милях к западу от Сухуми потопила базовый тральщик «Т-411» («Защитник»), а спустя 11 дней окончательно добила танкер «Эмба», стоящий на мели близ Сухумского маяка). После того как «М-35» прибыла на позицию, вечером 29 июня роли поменялись. Правда, светская подводная лодка из-за большого курсового угла не смогла выпустить торпеды по германской субмарине, шедшей в охранении двух сторожевых катеров. Больше встреч с противником не было. 2 июля «М-35» начала возвращение в базу, и через два дня ошвартовалась в Очемчири.

    Следующий боевой поход состоялся в конце июля. Подводной лодке предстояло действовать в районе Босфора на позиции № 85-а. Прибыв в назначенный район 29 июля, «М-35» уже на следующий день обнаружила одиночное судно, от атаки которого, посчитав его турецким, командир подводной лодки отказался. Возможность выпустить торпеды представилась только вечером 6 августа, когда подводная лодка обнаружила минный заградитель противника, оказавшимся охотником «Uj-116». Атака завершилась промахом, зато атакованный корабль и подошедшие к месту боя «раумботы» за двухчасовое преследование сбросили на подводную лодку 49 глубинных бомб, в результате чего на «малютке» вышло из строя управление вертикального и кормовых горизонтальных рулей, и получил повреждения ряд электроизмерительных приборов. Израсходовав боезапас, подводная лодка утром 9 августа вернулась в базу, где до середины октября проводила текущий ремонт.

    С конца октября «М-35» действовала в районе мыса Тарханкут – Ак-Мечеть (позиция № 99). Вечером 1 ноября подводная лодка одной торпедой атаковала караван из буксира с баржей, но промахнулась. Вероятно, противник не заметил атаку, поскольку преследования не было. Вторую оставшуюся торпеду «М-35» использовала вечером 2 ноября, атаковав в стоящую на якоре в бухте Ак-Мечеть баржу. Через 123 секунды после того, как торпедный аппарат опустел, на подводной лодке зафиксировали взрыв. На этот раз торпеда попала в лихтер «L-1293» (дедвейт 1270 тонн). Судно не восстанавливалось и весной 1944 года захвачено частями Красной Армии в Крыму.

    Ноябрьское патрулирование, проходившее с 14 ноября в пределах позиции № 99 (мыс Тарханкут – Ак Мечеть) вновь ознаменовалось торпедной атакой, когда утром 23 ноября «М-35» произвела залп по отряду кораблей противника. К сожалению, одна из торпед взорвалась, не дойдя до цели, а вторая, наоборот, в цель попала, но не взорвалась. В результате атаки был поврежден охотник «Uj-101», а сама подлодка подверглась преследованию вражеских кораблей, которые сбросили в предполагаемом месте субмарины 6 глубинных бомб.

    Таким же результатом завершился декабрьский боевой поход подводной лодки (позиция № 95, район Тарханкут – Евпатория). Атакованный днем 21 декабря германский охотник «Uj-103» сумел уклониться от торпеды. «М-35» благополучно ушла, зато ведущие поиск атаковавшей подводной лодки германские корабли обнаружили и подвергли 3, 5 часовому преследованию находившуюся рядом «С-33», на которую в общей сложности было сброшено более сотни глубинных бомб.

    Кампанию 1944 года «М-35» начала с январского патрулирования районов позиций №№ 91, 91-а, 99 (параллель Тарханкут – Бурнас). За это время подводная лодка дважды обнаруживала потенциальные цели, но атаковать по разным причинам так и не смогла. С тем же результатом завершилось и патрулирование примерно в тех же водах (позиций №№ 101 и 102) в конце февраля – начале марта.

    5 апреля при переходе Поти – Очемчири сопровождавший «М-35» сторожевой катер «СКА № 099» обнаружил в надводном положении и с дистанции 8 кбт атаковал германскую подводную лодку «U-23». Ведя огонь из пушки и пулеметов ДШК, охотник, сблизившись с вражеской субмариной до 30-40 м, выпустил 56 снарядов и 300 патронов, а когда подводная лодка погрузилась, сбросил 1 глубинную бомбу. Ответным огнем с «U-23» на катере получили ранения пятеро членов экипажа, один из них умер.

    Два последних похода в своей боевой карьере подводная лодка провела в рамках операции по освобождению Крыма. Вечером 11 апреля «М-35» вышла в море с задачей патрулирования района западнее мыса Тарханкут (позиция № 1), но уже в ночь на 15 апреля она сместилась юго-западнее для обслуживания западной части позиции № 4. В течение недели подводная лодка несколько раз обнаруживала потенциальные цели, но по разным причинам в атаку выйти не смогла. Вечером 18 апреля в точке 44°38' с.ш./ 32°21' в.д. «М-35» обнаружила у себя по корме след двух торпед, но вражескую подлодку не наблюдала. Противник оставляет без комментариев этот эпизод. Вероятно, ложный контакт. Наконец, утром 23 апреля в точке 44°23,0' с.ш./ 32°01,0' в.д. «М-35» обнаружила и атаковала одиночное судно, на деле оказавшееся охотником «Uj-103». Через 55 секунд после пуска торпед на подводной лодке зафиксирован взрыв, а спустя 20 минут при осмотре горизонта в перископ цель не наблюдалась. В ответ не получивший повреждений противолодочный корабль так же безуспешно сбросил на субмарину 2 глубинные бомбы.

    Прибыв в Очемчири вечером 25 апреля, подводная лодка пополнила запасы, и уже спустя четверо суток направилась в район южнее мыса Олинька (западная часть позиций № 5 и № 8).

    Вечером 7 мая, находясь на позиции в 40 милях восточнее Мангалии, подводная лодка была атакована внезапно появившимся гидросамолетом противника. В результате близких разрывов сброшенных им двух фугасных бомб подводная лодка во время срочного погружения получила повреждения корпуса и механизмов. Несмотря на это, «М-35» осталась на позиции. В ночь на 11 мая подводная лодка произвела последнюю в своей карьере боевую торпедную атаку, выпустив 2 торпеды по каравану десантных барж из состава немецкого конвоя «Танне», и хотя на «М-35» спустя 25 секунд после пуска торпед зафиксировали взрыв, конвой потерь не понес.

    Вернувшись в ночь на 14 мая в Очемчири, подводная лодка на следующий день встала на текущий ремонт, который продлился до октября 1944 года.

    22 июля 1944 года один из членов экипажа «М-35» командир отделения трюмных старший краснофлотец Морухов Александр Сергеевич удостоен звания Герой Советского Союза.

    17 августа 1953 года подводная лодка выведена из боевого состава, разоружена, переформирована в ПЗС и поставлена на прикол, а 20 июня 1956 года окончательно исключена из состава ВМФ в связи со сдачей на разборку.