Можно ли опротестовать не вступление в наследство и вступить в него по суду?

Если вторым наследником принимались действия по фактическому вступлению в права наследования, то можно, в судебном порядке.

Нет, такая расписка не имеет юридической силы и видимо была составлена либо в силу юридической неграмотности, либо по совету неграмотного юриста.

Для вступления в наследство необходимо либо восстанавливать в суде срок принятия наследства либо устанавливать юридический факт принятия наследства. Других вариантов просто не существует.

В данном случае имеет место наследственная трансмиссия.

Ст. 1156 ГК РФ

1. Если наследник, призванный к наследованию по завещанию или по закону, умер после открытия наследства, не успев его принять в установленный срок, право на принятие причитавшегося ему наследства переходит к его наследникам по закону, а если все наследственное имущество было завещано - к его наследникам по завещанию (наследственная трансмиссия). Право на принятие наследства в порядке наследственной трансмиссии не входит в состав наследства, открывшегося после смерти такого наследника.

2. Право на принятие наследства, принадлежавшее умершему наследнику, может быть осуществлено его наследниками на общих основаниях.

Если оставшаяся после смерти наследника часть срока, установленного для принятия наследства, составляет менее трех месяцев, она удлиняется до трех месяцев.

По истечении срока, установленного для принятия наследства, наследники умершего наследника могут быть признаны судом принявшими наследство в соответствии со статьей 1155 настоящего Кодекса, если суд найдет уважительными причины пропуска ими этого срока.

Если претензии будут иметь место - желательно не теряя время, обратиться за юридической помощью очно, т.к. риски для наследника, принявшего наследство, имеются серьезные.