Как решить вопрос с наследством дома, если один из наследников находится в тюрьме?

Если кратко, то Вы можете отказаться в его пользу.

1. Наследник вправе отказаться от наследства в пользу других лиц из числа наследников по завещанию или наследников по закону любой очереди независимо от призвания к наследованию, не лишенных наследства (пункт 1 статьи 1119), а также в пользу тех, которые призваны к наследованию по праву представления (статья 1146) или в порядке наследственной трансмиссии (статья 1156).

(в ред. Федерального закона от 15.02.2016 N 22-ФЗ)

(см. текст в предыдущей редакции)

Не допускается отказ в пользу какого-либо из указанных лиц:

от имущества, наследуемого по завещанию, если все имущество наследодателя завещано назначенным им наследникам;

от обязательной доли в наследстве (статья 1149);

если наследнику подназначен наследник (статья 1121).

2. Отказ от наследства в пользу лиц, не указанных в пункте 1 настоящей статьи, не допускается.

Не допускается также отказ от наследства с оговорками или под условием.

3. Отказ от части причитающегося наследнику наследства не допускается. Однако если наследник призывается к наследованию одновременно по нескольким основаниям (по завещанию и по закону или в порядке наследственной трансмиссии и в результате открытия наследства и тому подобное), он вправе отказаться от наследства, причитающегося ему по одному из этих оснований, по нескольким из них или по всем основаниям.

Для отказа от наследства в пользу брата вам брат не нужен. Вам нужно явиться к нотариусу и написать соответствующее заявление и этого будет достаточно.