Дело в том, что они живут в доме, который оформлен на мать мужа, но ипотеку за этот дом выплачивали они сами, не свекровь.

Если она документально сможет подтвердить, что оплачивала ипотеку - это будет весомым аргументом! Выселить Вашу сестру может не муж, а только свекровь и только по суду и только после развода. Отнять детей супруг не может, он может только определить место жительство детей. Если у нее есть другое жилье, например мама с папой или даже Вы поможете Вашей сестре, то определить место жительство детей с мамой вполне возможно!

А у нее есть какие-то ДОКАЗАТЕЛЬСТВА кроме Ваших слов, что оплата производилась из семейного бюджета???

Если да, то можно решать вопрос о праве собственности относительно этой квартиры. Если нет, то соответственно нет.

Свекровь ее сможет выселить в судебном порядке.

Ничего с детьми не будет, снимет она (сестра Ваша) себе другое жильё и будет там жить.

Согласно ст. 65 СК РФ, место жительства детей при раздельном проживании родителей устанавливается соглашением родителей. При отсутствии соглашения спор между родителями разрешается судом исходя из интересов детей и с учетом мнения детей. При этом суд принимает во внимание возраст ребенка, его привязанность к каждому из родителей, братьям, сестрам и другим членам семьи, нравственные и иные личные качества родителей, отношения, существующие между каждым из родителей и ребенком, возможность создания ребенку условий для воспитания и развития (с учетом рода деятельности и режима работы родителей, их материального и семейного положения, имея в виду, что само по себе преимущество в материально-бытовом положении одного из родителей не является безусловным основанием для удовлетворения требований этого родителя), а также другие обстоятельства, характеризующие обстановку, которая сложилась в месте проживания каждого из родителей.

Даже, если доказать, что деньги и сестры (что нужно сделать ТОЛЬКО документально), то это сможет послужить основанием для взыскания этих денег со свекрови, а не для требования признать право собственности на квартиру...