Apple будет проверять личные фото и сообщения на устройствах пользователей

Компания Apple анонсировала ряд новых функций безопасности. Теперь она будет проверять все фотографии на iCloud. Таким образом компания планирует искать доказательства жестокого обращения с детьми и детскую порнографию.

Что случилось

Компания считает, что новая система способна помочь правоохранительным органам в уголовных расследованиях, но может открыть дверь для увеличения юридических и государственных требований к пользовательским данным.

Система, которую называют neuralMatch, предупреждает службу проверки, если она считает, что обнаружила незаконные изображения. Затем команда свяжется с правоохранительными органами.

Нейросеть neuralMatch обучали с помощью 200 тыс. изображений из Национального центра пропавших и эксплуатируемых детей, сначала ее протестируют в США.

По словам источником, близким к компании, нейросеть будет выдавать так называемый ваучер безопасности для каждого фото. Этот ваучер способен определять, подозрительная фотография или нет.

При отметке определенного количества фотографий как подозрительных Apple позволит расшифровать все эти фотографии и, если они окажутся незаконными, передаст информацию соответствующим правоохранительным органам.

Что говорят в Apple

В Apple заявили, что перед тем как отправить фото в правоохранительные органы, изначально его изучат внутренние специалисты компании. Если там подтвердят подлинность изображения и их будет несколько – передадут данные в полицию.

Если пользователь посчитает жалобу ошибочной, он может оспорить жалобу.

Интимные сообщения

Помимо проверки фото Apple анонсировала запуск функции безопасности в сообщениях. Если несовершеннолетний пользователь получит в iMessage интимное фото – система его размоет и предупредит пользователя о подозрительном контенте.

Как только ребенок решит посмотреть это фото – родители получат уведомление. Также несовершеннолетний не сможет отправить интимное фото и скрыть это от родителей. Система предупредит их и об этом.

Подробнее ➤