Заложена 25 декабря 1938 года на заводе № 196 в Ленинграде под стапельным номером 119. 11 сентября 1939 года подводная лодка была спущена на воду, 20 ноября 1939 года вступила в строй, и 12 декабря 1939 года вошла в состав Краснознаменного Балтийского флота.

    Начало Великой Отечественной войны «М-95» встретила на Ханко, где незадолго до этого прошла докование. Командовал кораблем старший лейтенант (затем капитан-лейтенант) Федоров Леонид Петрович (вступил в должность командира в декабре 1940 года). Субмарина входила в состав 8-го дивизиона 2-й бригады подводных лодок. В первый день войны подводная лодка перешла в Палдиски, а затем в Таллин. 16 июля командующий КБФ вице-адмиал В.Ф. Трибутц приказал выделить часть субмарин 8-го дивизиона в распоряжение Коменданта Береговой обороны Балтийского района (БОБР) генерал-майора береговой службы А.Б. Елисеева. 19 июля преданные подводные лодки прибыли в Триги, и уже 21 июля «М-95» вышла в море для несения дозора в районе острова Рухну. Вечером того же дня при срочном погружении из-за дефекта конструкции клапана газоотвода на лодке залило дизель, и ей пришлось вернуться.

    31 июля «М-95» вышла в район Усть-Двинска, но встреч с кораблями противника не имела. Из-за минной опасности (мины были выставлены советской авиацией и сторожевыми кораблями) подводная лодка имела указание не подходить к берегу ближе, чем на 5 миль. Утром 6 августа «М-95» вернулась в Куйвасте, где, постоянно подвергаясь налетам немецкой авиации (отражено около 40 авианалетов), простояла до 12 августа.

    13 августа «М-95» перешла в Таллин. К концу августа 1941 года положение войск, оборонявших эстонскую столицу стало критическим, поэтому в Ставке прияли решение о эвакуации частей и кораблей флота, оборонявших базу. В ходе прорыва флота из Таллина в Кронштадт «М-95» была включена в состав отряда прикрытия, и 30 августа благополучно завершила переход.

    Опасаясь прорыва гитлеровского флота к Ленинграду, советское командование выделило часть подводных лодок для развертывания на подступах к Кронштадту. Вечером 10 октября «М-95» вышла в Навский залив (позиция № 6). В ходе патрулирования лодка 20 раз касалась корпусом о грунт. Кроме того, корабль преследовала череда поломок (четыре раза выходили из строя кормовые горизонтальные рули, потребовался ремонт перископа). Подводная лодка продолжала оставаться на позиции до 19 октября, после чего самостоятельно вернулась в Кронштадт. В этот же день «М-95» перешла в Ленинград, где на заводе № 196 («Судомех») встала на ремонт.

    15 декабря 1941 года при стоянке у стенки завода от близкого разрыва авиабомбы подводная лодка получила пробоины в прочном корпусе.

    В ночь с 9 на 10 июня 1942 года «М-95» перешла из Ленинграда в Кронштадт. На переходе подводная лодка и сопровождавший ее бронекатер «БКА № 212» были обстреляны артиллерией противника. На субмарине обошлось без повреждений, но шедший с подводной лодкой бронекатер получил прямое попадание и понес ощутимые потери в экипаже, двое было убито, пять человек ранено.

    Вечером 12 июня «М-95» прибыла на Лавенсари, откуда утром 13 июня вышла в район Западно-Гогландского плеса. Не пробыв на позиции и суток, подводная лодка разрядила торпедные аппараты по стоящему на камнях еще с 1941 года транспорту «Шауляй». (Потоплен в ходе Таллинского прорыва германской авиацией 29 августа). Оставшись без боезапаса, подводная лодка вынуждена была вернуться на Лавенсари.

    Загрузив торпеды, 14 июня 1942 года «М-95» снова вышла в море, в этот раз навсегда. На следующий день наблюдательные посты противника на острове Гогланд и советские на острове Лавенсари, а так же катера дозора отметили большой силы двойной подводный взрыв по маршруту следования подводной лодки. Масляное пятно в этом месте держалось до 11 июля 1942 года. «М-95» подорвалась на мине финского заграждения «Рукаярви-Б», всего в паре миль восточнее бухты Сууркюля.

    В начале мая 2015 года «М-95» была найдена 10-й экспедицией «Поклон кораблям Великой Победы» у северо-восточного берега острова Гогланд в точке с координатами 60 05,13’ с.ш./ 27 03,53’ в.д. Согласно Отчету экспедиции Корпус подлодки лежит на глубине 63 м. Взрыв мины, погубивший субмарину, произошел в носовой части корабля, когда он шел под водой.

    «Носовая оконечность лодки смята ударом снизу, область повреждения от форштевня, до уровня крышек торпедных аппаратов. Волнорезные щитки ниш торпедных аппаратов смяты деформацией корпуса. Виднеющиеся в щелях крышки торпедных аппаратов закрыты. Якорь лодки – с правого борта, втянут в клюз. Палуба в районе меча гидроакустики прогнила, и меч провалился в межпалубное пространство. Аварийный буй лодки отсутствует, и его место закрыто листом металла. Единственное орудие лодки, калибра 45 мм, стоит в походном положении, ствол заткнут заглушкой. Передняя стенка легкого ограждения рубки обвалилась от коррозии и частично от воздействия рыбацкого трала, останки которого висят на рубке с левого борта. Обломки лежат на верхней палубе между орудием и рубкой. На мостике виден нактоуз с закрытой защитной крышкой, указатель поворота руля, раструб переговорной трубы, заглушенный специальной пробкой, машинный телеграф поверхностного хода, ручка которого стоит в положении «стоп». Рубочный люк закрыт, единственный перископ лодки – модель ПЗ, выдвинут примерно на полметра из перископной тумбы, и его линза повернута на нос лодки. В кормовой части лодки обнаружен аварийный люк для выхода экипажа. Люк находится в приоткрытом состоянии, полному открытию люка мешают погнутые леерные стойки. Винто-рулевая группа лодки находится в хорошем состоянии, все рули находятся в положении «ноль», в таком же положении находятся и носовые горизонтальные рули.»

    Вероятно, через приоткрытый кормовой люк пытались покинуть погибшую подлодку оставшиеся в живых члены экипажа субмарины из кормовых отсеков, но не сумели этого сделать, так как, придавленный согнутым леером, люк до конца не открылся.

    Вместе с подводной лодкой погибло 20 человек.