Брат отказывается от расписки об отказе от наследства - как поступить в данной ситуации?

Не знаю какой уж там у вас был нотариус, но он заверил недействительную сделку.

Выход у вас один - разделить наследство по закону.

А как быть с машиной, которую он тогда от меня получил?

В этом случае должны применяться последствия недействительных сделок.

ГК РФ,

Статья 167. Общие положения о последствиях недействительности сделки

1. Недействительная сделка не влечет юридических последствий, за исключением тех, которые связаны с ее недействительностью, и недействительна с момента ее совершения.

2. При недействительности сделки каждая из сторон обязана возвратить другой все полученное по сделке, а в случае невозможности возвратить полученное в натуре (в том числе тогда, когда полученное выражается в пользовании имуществом, выполненной работе или предоставленной услуге) возместить его стоимость в деньгах - если иные последствия недействительности сделки не предусмотрены законом.

Статья 168. Недействительность сделки, не соответствующей закону или иным правовым актам

Сделка, не соответствующая требованиям закона или иных правовых актов, ничтожна, если закон не устанавливает, что такая сделка оспорима, или не предусматривает иных последствий нарушения.

Статья 181. Сроки исковой давности по недействительным сделкам

1. Срок исковой давности по требованию о применении последствий недействительности ничтожной сделки составляет три года. Течение срока исковой давности по указанному требованию начинается со дня, когда началось исполнение этой сделки.

Но у вас пропущены все сроки.

Здравствуйте Валентина!

В соответствии со ст.1159 Гражданского кодекса РФ: Отказ от наследства совершается подачей по месту открытия наследства нотариусу или уполномоченному в соответствии с законом выдавать свидетельства о праве на наследство должностному лицу заявления наследника об отказе от наследства.

Наследник вправе отказаться от наследства в течение срока, установленного для принятия наследства (6 МЕСЯЦЕВ со дня смерти наследодателя), в том числе в случае, когда он уже принял наследство.

Соответственно, расписка об отказе от наследства не является заявлением наследника об отказе от наследства.

Всего доброго.