Проблема с обновлением операционной системы на ноутбуке - можно ли вернуть его в магазин или заменить?

Это технически сложный товар, который по ст.18 Закона "О защите прав потребителей" вернуть можно, если в течение 15 дней после покупки проявится неисправность или недостаток, а далее - только в случаях, указанных в законе (ст. 18 Закона о защите прав потребителей). Если таких случаев нет - можете требовать только ремонт. Пишите письменную претензию. Если продавец настаивает на экспертизе - его право и обязанность по ст. 18 Закона "О защите прав потребителей".

Исковое заявление подается в суд по правилам ст. 131, 132 Гражданского процессуального кодекса РФ. Госпошлиной для истца иски, вытекающие из отношений по защите прав потребителей, не облагаются, и подобные иски можно подавать в суд по своему месту жительства. Если цена иска не превышает 50 000 руб, то иск подается в мировой суд, в остальных случаях - в районный суд. В суде можете ходатайствовать о назначении экспертизы (ст. 79 ГПК РФ).

Качественное изделие без согласия продавца вернуть не удастся.

Закон РФ от 07.02.1992 N 2300-1 "О защите прав потребителей"

Статья 18. Права потребителя при обнаружении в товаре недостатков

невозможность использования товара в течение каждого года гарантийного срока в совокупности более чем тридцать дней вследствие неоднократного устранения его различных недостатков...