Как TikTok читает ваши мысли

К Бен Смит

5 декабря 2021 г.

Алгоритм TikTok преследует четыре основные цели: 用户 价值, 用户 价值 (长期), 作者 价值 и 平台 价值, которые компания переводит как «ценность для пользователя», «долгосрочная ценность для пользователя», «ценность для создателя» и « платформенная ценность ».

Этот набор целей взят из откровенного и разоблачающего документа для сотрудников компании, который предлагает новые подробности того, как самое успешное видеоприложение в мире создало такой развлекательный - некоторые сказали бы, вызывающий привыкание - продукт.

Документ под названием «TikTok Algo 100» был подготовлен командой инженеров TikTok в Пекине. Представитель компании Хилари Маккуэйд подтвердила его подлинность и сказала, что он был написан для того, чтобы объяснить нетехническим сотрудникам, как работает алгоритм. Документ предлагает новый уровень детализации доминирующего видеоприложения, обеспечивая показательный взгляд на математическое ядро ​​приложения и понимание того, как компания понимает человеческую природу - нашу склонность к скуке, нашу чувствительность к культурным ориентирам, - что помогает объяснить, почему это так трудно подавить. Документ также приоткрывает завесу над безупречной связью компании с ее китайской материнской компанией ByteDance в то время, когда Министерство торговли США готовит отчет о том, представляет ли TikTok угрозу безопасности для Соединенных Штатов.

Если вы входите в число миллиарда людей (буквально!), Которые проводят время в TikTok каждый месяц, вы знакомы с приложением как с центральным средством развития молодежной и онлайн-культуры на 2021 год. Он отображает бесконечный поток видео и, в отличие от приложений социальных сетей, которые он все больше вытесняет, служит больше для развлечения, чем для связи с друзьями.

Он преуспел там, где другие приложения для коротких видеороликов потерпели неудачу, отчасти потому, что оно упрощает создание, давая пользователям фоновую музыку для танцев или мемы для разыгрывания, а не заставляя их заполнять мертвый воздух. И для многих пользователей, которые потребляют, не создавая, приложение потрясающе хорошо умеет читать ваши предпочтения и направлять вас к одной из своих многочисленных «сторон», независимо от того, интересуетесь ли вы социализмом, советами по Excel или сексом, консервативной политикой или конкретной знаменитостью. . Он удивительно хорошо раскрывает желания людей даже самим себе - « Алгоритм TikTok знал мою сексуальность лучше, чем я», - гласит один из заголовков о людях, восхищающихся рентгеновским снимком их внутренней жизни, сделанным приложением.

TikTok публично поделился общими схемами своей системы рекомендаций, заявив, что она учитывает такие факторы, как лайки и комментарии, а также видеоинформацию, такую ​​как подписи, звуки и хэштеги. Сторонние аналитики также пытались взломать его код. Недавний доклад Wall Street Journal показал , как TikTok в значительной степени зависит от того , сколько времени вы проводите смотреть все видео , чтобы направить вас к более видео , которые будут держать вас прокрутку, и этот процесс может иногда привести молодые зритель вниз опасные дыры кролика, в частности , по отношению к содержанию этого способствует самоубийству или членовредительству - проблемы, которые TikTok пытается решить, агрессивно удаляя контент, нарушающий его условия обслуживания.

Новый документ был предоставлен The New York Times лицом, уполномоченным читать его, но не делиться им, и предоставил его на условиях анонимности. Человек был обеспокоен тем, что приложение использует «грустный» контент, который может вызвать членовредительство.

В документе откровенно объясняется, что, преследуя «конечную цель» добавления ежедневных активных пользователей, компания решила оптимизировать два тесно связанных показателя в потоке видео, которое он обслуживает: «удержание» - то есть, приходит ли пользователь назад - и «потраченное время». Приложение хочет, чтобы вы оставались там как можно дольше. Этот опыт иногда называют зависимостью, хотя он также напоминает частую критику поп-культуры. Драматург Дэвид Мэмет, пренебрежительно писавший в 1998 году о «псевдоискусстве», заметил, что «людей тянет к летним фильмам, потому что они не приносят удовлетворения, и поэтому они предлагают возможности повторить принуждение».

Для аналитиков, которые считают, что алгоритмические рекомендации представляют собой социальную угрозу, документ TikTok подтверждает их подозрения.

«Эта система означает, что время просмотра является ключевым моментом. Алгоритм пытается вызвать у людей зависимость, а не дать им то, что они действительно хотят », - сказал Гийом Часло, основатель Algo Transparency, группы из Парижа, которая изучила систему рекомендаций YouTube и мрачно оценивает влияние продукта на дети, в частности. Г-н Часло просмотрел документ TikTok по моей просьбе.

«Я считаю безумной идеей позволить алгоритму TikTok управлять жизнью наших детей», - сказал он. «С каждым видео, которое смотрит ребенок, TikTok получает информацию о нем. За несколько часов алгоритм может определить его музыкальные вкусы, его физическое влечение, депрессию, пристрастие к наркотикам и другую конфиденциальную информацию. Существует высокий риск того, что часть этой информации будет использована против него. Это потенциально может быть использовано для микро-нацеливания на него или для того, чтобы сделать его более зависимым от платформы ».

В документе говорится, что время просмотра - не единственный фактор, который учитывает TikTok. В документе предлагается приблизительное уравнение оценки видео, в котором прогноз, основанный на машинном обучении, и фактическое поведение пользователя суммируются для каждого из трех битов данных: лайков, комментариев и времени воспроизведения, а также указание на то, что видео имеет сыграно:

Plike X Vlike + Pcomment X Vcomment + Eplaytime X Vplaytime + Pplay X Vplay

«Рекомендательная система выставляет оценки всем видео на основе этого уравнения и возвращает пользователям видео с наивысшими оценками», - говорится в документе. «Для краткости уравнение, показанное в этом документе, сильно упрощено. Фактическое используемое уравнение намного сложнее, но логика остается той же ».

В документе подробно показано, как компания настраивает свою систему для выявления и подавления «подобных приманок» - видеороликов, предназначенных для игры в алгоритм, явно прося людей понравиться им, - и как компания продумывает более тонкие вопросы.

«Некоторые авторы могут содержать в своих видео какие-то культурные отсылки, и пользователи могут лучше понять эти отсылки, только посмотрев больше видео автора. Следовательно, общая ценность, которую пользователь просматривает все эти видео, выше, чем стоимость просмотра каждого отдельного видео в сумме », - говорится в документе. «Другой пример: если пользователю нравится определенный вид видео, но приложение продолжает предлагать ему такие же, ему быстро надоест и он закроет приложение. В этом случае общая ценность, создаваемая пользователем, просматривающим одни и те же видео, ниже, чем ценность просмотра каждого отдельного видео, потому что повторяемость приводит к скуке ».

«Есть два решения этого вопроса», - говорится в документе. «Сделайте некоторые предположения и разбейте значение на уравнение стоимости. Например, с точки зрения повторяющегося воздействия мы могли бы добавить значение same_author_seen, а для проблемы скуки мы также могли бы добавить отрицательное значение same_tag_today. Другие решения, помимо уравнения ценности, также могут работать, такие как принудительная рекомендация в потребителях для кормления и дисперсии и т. Д. Например, проблема скуки может быть решена путем дисперсии ».

Другая диаграмма в документе указывает на то, что «монетизация для авторов» является одной из целей компании, это предположение о том, что TikTok может отдавать предпочтение видео, если они приносят прибыль, а не просто развлекают.

Джулиан МакАули, профессор информатики Калифорнийского университета в Сан-Диего, который также рецензировал документ, сказал в электронном письме, что в документе не хватает деталей о том, как именно TikTok делает свои прогнозы, но что описание его механизма рекомендаций является «Вполне разумные, но традиционные вещи». По его словам, преимущество компании заключается в сочетании машинного обучения с «фантастическими объемами данных, высокой заинтересованностью пользователей и настройкой, при которой пользователи могут потреблять контент, рекомендованный алгоритмами (подумайте, как мало других настроек обладают всеми этими характеристиками!). Не какая-то алгоритмическая магия ».

Г-н Маколи добавил, что он немного озадачен, почему люди всегда спрашивают его о TikTok.

«Кажется, есть некоторое мнение (в средствах массовой информации? Или в обществе?), Что они взломали какой-то волшебный код для рекомендаций, но большая часть того, что я видел, кажется вполне нормальным», - написал он.

И действительно, этот документ делает многое для демистификации той системы рекомендаций, которую технологические компании часто представляют как невероятно трудную для понимания критиков и регулирующих органов, но которая, как правило, сосредоточена на функциях, понятных любому обычному пользователю. Например, освещение журналом просочившихся документов Facebook**** показало, как решение Facebook**** придать больший вес комментариям способствовало распространению вызывающего разногласия контента. Хотя модели могут быть сложными, в алгоритме рекомендаций TikTok, изложенном в документе, нет ничего зловещего или непонятного.

Но в документе также четко указывается, что TikTok не сделал ничего, чтобы разорвать свои связи со своей китайской материнской компанией ByteDance, чья собственность стала скачкообразной в конце правления президента Дональда Трампа в 2020 году, когда он попытался принудительно продать TikTok. американской компании Oracle, связанной с его администрацией.

В документе TikTok задаются вопросы инженеру, чья биография на LinkedIn гласит, что он работает как над TikTok, так и над аналогичным китайским приложением ByteDance, Douyin, предлагая взглянуть на оставшийся глобальный элемент все более разделенной технологической индустрии - инженерные таланты. В документе говорится, что технический менеджер учился в Пекинском университете, получил степень магистра компьютерных наук в Колумбийском университете и два года проработал в Facebook****, прежде чем приехать на ByteDance в Пекин в 2017 году. Документ написан на ясном, но не родном английском языке. с точки зрения китайской технологической индустрии. Например, в нем не упоминаются конкурирующие американские компании, такие как Facebook**** и Google, но есть обсуждение «если Toutiao / Kuaishou / Weibo сделали что-то подобное, можем ли мы запустить ту же стратегию, что и они?»

В документе говорится, что процесс разработки TikTok тесно связан с процессом разработки Douyin. Документ в какой-то момент отсылает сотрудников TikTok к «Процессу запуска стратегии рекомендаций Douyin» и ссылается на внутренний документ компании, в котором говорится, что это «тот же документ для TikTok и Douyin».

Сотрудники TikTok также глубоко вплетены в экосистему ByteDance. Они используют продукт ByteDance под названием Lark, корпоративную систему внутренних коммуникаций, подобную Slack, но с агрессивными функциями управления производительностью, направленными на то, чтобы заставить сотрудников больше использовать систему. Есть, например, рисунок, который показывает, выполнили ли вы действия - например, открытие сообщений - больше или меньше, чем ваши коллеги, согласно предоставленным мне скриншотам.

Обеспокоенность по поводу китайских потребительских технологий в Соединенных Штатах является двухпартийной. Распоряжение президента Трампа о попытке запретить приложение в августе 2020 года предупредило, что TikTok «сбор данных угрожает предоставить коммунистической партии Китая доступ к личной и конфиденциальной информации американцев». Китайское правительство могло «создавать досье с личной информацией для шантажа и заниматься корпоративным шпионажем», - говорится в сообщении. Этот запрет был приостановлен в суде и исчез после президентских выборов. Президент Байден отменил указ, но затем его администрация объявила о своем собственном расследовании угроз безопасности, исходящих от TikTok, при этом неназванный высокопоставленный чиновник администрации сообщил журналистам, что Китай «работает над тем, чтобы использовать цифровые технологии и американские данные таким образом, чтобы это представляло неприемлемые риски для национальной безопасности. . »

В заявлении, отправленном по электронной почте, г-жа Маккуэйд заявила, что «хотя в коде есть некоторая общность, приложения TikTok и Douyin запускаются полностью отдельно, на разных серверах, и ни один код не содержит пользовательских данных».

Она также сказала: «TikTok никогда не предоставлял данные о пользователях правительству Китая, и мы не стали бы, если бы их спросили».

TikTok, главный исполнительный директор которого живет в Сингапуре, нанял множество американских и европейских руководителей и экспертов по безопасности с хорошими связями, поскольку политическое давление при Трампе усилилось. В нем говорится, что у него нет официальной штаб-квартиры. Он стремился развеять опасения американцев, храня пользовательские данные в Соединенных Штатах с резервной копией в Сингапуре.

Обеспокоенность американского правительства безопасностью проявляется в двух формах. Первый, как предложил г-н Трамп в своем указе, заключается в том, следует ли рассматривать огромный массив данных TikTok - о личных сексуальных желаниях поклонников приложения, которые могут в конечном итоге стать американскими государственными чиновниками, например, - как проблема национальной безопасности. Нет никаких доказательств того, что данные когда-либо использовались таким образом, и TikTok - далеко не единственное место, где американцы делятся подробностями своей жизни в социальных сетях. Вторая проблема заключается в том, подвергает ли TikTok цензуре политически чувствительные сообщения.

В отчете Citizen Lab, контролирующей кибербезопасность в Торонто, в этом году говорится, что обе эти проблемы в лучшем случае латентны: он не обнаружил никаких указаний на то, что TikTok либо подвергал цензуре конфиденциальные темы, либо передавал данные в Китай.

Но взгляд на внутреннюю жизнь людей в TikTok необычен. Другой предоставленный мне снимок экрана показывает, что модераторы его контента имеют доступ не только к публично опубликованным видео, но и к контенту, отправляемому друзьям или загружаемому в систему, но не переданному в общий доступ, в отличие от таких приложений, как WhatsApp и Signal, которые обеспечивают сквозной доступ. шифрование.

Второй вопрос: может ли китайское правительство использовать платформу для распространения пропаганды. После того , как TikTok был пойман за цензурой видео, осуждающего массовые задержания мусульман из числа меньшинств в Китае, он позволил критиковать правительство страны. Например, хэштег #whereispengshuai, отсылка к китайской теннисной звезде, обвинившей главного китайского лидера в сексуальном насилии , автоматически заполняется в системе, хотя видео TikTok с этим хэштегом имеют мало просмотров. Нет независимого способа узнать, подавляет ли компания поиск, который гораздо активнее используется в Твиттере, но так же мало в Instagram****.

Некоторые американские аналитики видят в TikTok серьезную угрозу; другие считают это своего рода невежественной паникой, с которой столкнулись американцы, приближающиеся к среднему возрасту, когда их родители предупредили их, что, если они поделятся подробностями своей жизни в социальных сетях, они никогда не получат работу. Многие, многие другие продукты, от социальных сетей до банков и кредитных карт, собирают более точные данные о своих пользователях. Если иностранные службы безопасности захотят получить эти данные, они, вероятно, смогут найти способ купить их у теневой индустрии брокеров данных.

«Беспокойство по поводу слежки или цензуры со стороны TikTok отвлекает от того факта, что эти проблемы намного больше, чем любая конкретная компания или ее китайская собственность», - сказал Сэм Сакс, научный сотрудник по политике кибербезопасности из исследовательской организации New America. «Даже если бы TikTok принадлежала Америке, не существует закона или постановления, которые не позволяли бы Пекину покупать его данные на рынке брокеров открытых данных».

Одна вещь, которую я напомнил в этой колонке: угроза, которую TikTok представляет для национальной безопасности США, кажется полностью гипотетической и зависит от вашего анализа отношений между США и Китаем, а также будущего технологий и культуры. Но понимание алгоритма того, что держит меня на крючке - между теннисом, видео с турецкой кухней и прочим, что я люблю смотреть, - действительно представляло явную и реальную опасность для моей способности закончить эту колонку.

источник: https://www.nytimes.com/2021/12/05/business/media/tiktok-algorithm.html