Петр Петрович умер в феврале 1953 года, на 48-м году жизни, в полном расцвете творческих сил. Он оставил после себя богатое научное наследие и внес личный вклад в исследования Арктики, развитие советского морского транспорта и в создание передовой школы отечественной океанологии. Память Ширшова увековечена на географической карте в названиях бухты в архипелаге Земли Франца-Иосифа и подводного хребта в Тихом океане, открытого и нанесенного на карту одной из экспедиций «Витязя». Созданный им Институт океанологии АН СССР носит его имя, а океанские просторы бороздят крупнотоннажный корабль науки с надписью на борту «Академик Ширшов» и танкер «Петр Ширшов».