Если да, то это значит, что сделка формальна и передачи денег не было?

Ваша ситуация крайне распространена, действительно налоговые органы когда надо платить налоги не придают значения «формальной» сделки, а когда касается налогового вычета они любят на это давить. К сожалению эти два действия между собой НК не связываются. Именно налоговая, а не приобретатель, отказывая в начислении налогового вычета обязана доказать, что сделка «формальна», Вы этого доказывать не должны. Налоговый орган отказывая в вычете обязан выдать письменный документ о своем отказе, в котором обязательно указывается причина их отказа, данный отказ Вы имеете право обжаловать в федеральном суде, споры, по практике, в большинстве случаев заканчиваются в пользу налогоплательщиков.

"Формальность" сделки к этому вопросу не имеет отношения. Основания для отказа другие и они содержатся в налоговом законодательстве. а не в гражданском.

Налоговики отказывают в предоставлении имущественного вычета. если сделка совершена между взаимозависисмыми физическими лицами. Это основание предусмотрено абз. 19 пп. 2 п. 1 ст. 220 НК РФ, согласно которому имущественный налоговый вычет не применяется в случаях, если если сделка купли-продажи жилого дома, квартиры, комнаты или доли (долей) в них совершается между физическими лицами, являющимися взаимозависимыми. Причем, независимо от условий и экономических результатов заключенной между ними сделки. Таким образом, вопрос о том, была ли передача денег или нет, не имеет значения для применения этого положения.

Согласно ст. 20 НК РФ взаимозависимыми признаются лица, состоящие в брачных отношениях, отношениях родства или свойства, усыновителя и усыновленного, а также попечителя и опекаемого

А вопрос "обнаружения" налоговиками наличия родственных связей между участниками с разными фамилиями и пропиской, не относится к вопросу права.