Разве все остальные накопления, которые не успел получить покойный уходят государству?

В соответствии с п. 12 ст. 9 Закона N 173-ФЗ, если смерть застрахованного лица наступила до назначения ему трудовой пенсии по старости или до перерасчета размера этой части указанной пенсии с учетом дополнительных пенсионных накоплений, средства, учтенные в специальной части его индивидуального лицевого счета, выплачиваются в установленном порядке лицам, указанным в п. 12 ст. 16 данного Закона: в первую очередь детям, супругу и родителям (усыновителям), во вторую очередь - братьям, сестрам, дедушкам и внукам.

Согласно Правил выплаты Пенсионным фондом РФ правопреемникам умершего застрахованного лица средств пенсионных накоплений, учтенных в специальной части индивидуального лицевого счета, утвержденных Постановлением Правительства Российской Федерации от 3 ноября 2007 г. N 741, территориальный орган Пенсионного Фонда РФ по месту жительства умершего застрахованного лица, получив документ, содержащий сведения о смерти застрахованного лица, обязан принять меры по извещению правопреемников о возможности получения средств пенсионных накоплений, учтенных в специальной части индивидуального лицевого счета умершего застрахованного лица.

Остальные деньги можно получить в качестве наследственного имущества, обратитесь в нот. контору.

нотариус здесь ни при чем, нужно в ПФ обращаться по месту жительства умершего наследодателя.