История о фильмах и телешоу "Звездных войн" с ошибками демонстрирует, почему искусственный интеллект не должен участвовать в сборе новостей, заявили журналисты
Через несколько часов после того, как Джеймс Уитбрук приступил к работе в Gizmodo в среду, он получил записку от своего главного редактора: в течение 12 часов компания опубликует статьи, написанные искусственным интеллектом. Примерно через 10 минут на сайте была опубликована статья “Gizmodo Bot” о хронологическом порядке фильмов и телешоу о "Звездных войнах".
Уитбрук — заместитель редактора Gizmodo, который пишет и редактирует статьи о научной фантастике, — быстро прочитал рассказ, который, по его словам, он не просил и не видел до его публикации. Он перечислил 18 “опасений, исправлений и комментариев” к истории в электронном письме главному редактору Gizmodo Дэну Аккерману, отметив, что бот разместил сериал “Звездные войны: войны клонов” в неправильном порядке, опустил любое упоминание о телевизионных шоу, таких как “Звездные войны: Андор” и фильм 2008 года, также озаглавленный “Звездные войны: войны клонов”, названия фильмов в неточном формате и заголовок истории, имели повторяющиеся описания, и не содержал никакого “явного заявления об отказе” от ответственности за то, что оно было написано искусственным интеллектом, за исключением подписи “Gizmodo Bot”.
Статья быстро вызвала протест среди сотрудников, которые пожаловались во внутренней системе обмена сообщениями Slack компании на то, что история с ошибками “активно вредит нашей репутации и авторитету”, демонстрирует “нулевое уважение” к журналистам и должна быть немедленно удалена, согласно сообщениям, полученным The Washington Post. История была написана с использованием комбинации Google Bard и ChatGPT, по словам сотрудника G / O Media, знакомого с этим вопросом. (G / O Media владеет несколькими сайтами цифровых МЕДИА, включая Gizmodo, Deadspin, The Root, Jezebel и The Onion.)
“Мне никогда не приходилось сталкиваться с таким базовым уровнем некомпетентности ни с одним из коллег, с которыми я когда-либо работал”, - сказал Уитбрук в интервью. “Если эти ИИ [чат-боты] не могут даже сделать что-то такое элементарное, как упорядочить фильмы о "Звездных войнах" один за другим, я не думаю, что вы можете доверять ему [сообщать] какую-либо точную информацию”.
Ирония в том, что беспорядки происходили в Gizmodo, публикации, посвященной освещению технологий, была неоспоримой. 29 июня Меррилл Браун, редакционный директор G / O Media, привел редакционную миссию организации в качестве причины для использования искусственного интеллекта. Поскольку G / O Media владеет несколькими сайтами, посвященными технологиям, писал он, она несет ответственность за “делать все возможное для разработки инициатив в области искусственного интеллекта относительно рано в эволюции технологии".
“Эти функции не заменяют работу, которую в настоящее время выполняют писатели и редакторы”, - сказал Браун, объявив сотрудникам, что компания запустит пробную версию, чтобы проверить “наше редакторское и технологическое мышление об использовании искусственного интеллекта”. “Ошибки будут, и они будут исправлены как можно быстрее”, - пообещал он.
Тест Gizmodo, основанный на ошибках, говорит о более широких дебатах о роли ИИ в новостях. Несколько репортеров и редакторов заявили, что не доверяют чат-ботам создавать хорошо освещаемые и тщательно проверенные фактами статьи. Они опасаются, что лидеры бизнеса хотят внедрить технологию в редакции с недостаточной осторожностью. Они утверждают, что, когда судебные разбирательства проходят плохо, это подрывает моральный дух сотрудников, а также репутацию издания.
Эксперты по искусственному интеллекту заявили, что многие крупные языковые модели все еще имеют технологические недостатки, которые делают их ненадежным источником для журналистики, если только люди не будут глубоко вовлечены в процесс. По их словам, оставленные без контроля искусственно созданные новостные сюжеты могли распространять дезинформацию, сеять политическую рознь и оказывать значительное влияние на организации СМИ.
“Опасность заключается в надежности новостной организации”, - сказал Ник Диакопулос, адъюнкт-профессор коммуникационных исследований и компьютерных наук в Северо-Западном университете. “Если вы собираетесь публиковать неточный контент, то, я думаю, со временем это, вероятно, ударит по вашему доверию”.
Марк Нешис, представитель G / O Media, сказал, что компания была бы “заброшенной”, если бы не экспериментировала с ИИ. “Мы думаем, что испытание ИИ прошло успешно”, - сказал он в заявлении. “Мы никоим образом не планируем сокращать численность редакции из-за деятельности ИИ”. Он добавил: “Мы не пытаемся ни за чем прятаться, мы просто хотим все сделать правильно. Чтобы сделать это, мы должны принять метод проб и ошибок”.
В четверг в сообщении Slack, рассмотренном The Post, Браун сказал недовольным сотрудникам, что компания “стремится вдумчиво собирать отзывы и действовать на основе них”. “Будут лучшие истории, идеи, проекты данных и списки, которые появятся, когда мы будем бороться с лучшими способами использования технологии”, - сказал он. Согласно скриншотам из Slack conversation, в заметке было нарисовано 16 эмодзи "большие пальцы вниз", 11 эмодзи "корзина для мусора", шесть эмодзи "клоун", два эмодзи "ладони" и два эмодзи "корма".
Новостные медиа-организации ломают голову над тем, как использовать чат-ботов с искусственным интеллектом, которые теперь могут создавать эссе, стихи и истории, зачастую неотличимые от контента, созданного человеком. Несколько сайтов СМИ, которые пытались использовать искусственный интеллект для сбора новостей и написания статей, потерпели громкие катастрофы. G / O MEDIA, похоже, не испугались.
Ранее на этой неделе Леа Голдман, заместитель редакционного директора G / O Media, уведомила сотрудников Slack о том, что компания “начала ограниченное тестирование” историй, созданных искусственным интеллектом, на четырех своих сайтах, включая A.V. Club, Deadspin, Gizmodo и The Takeout, согласно сообщениям, просмотренным The Post. “Вы можете заметить ошибки. У вас могут возникнуть проблемы с тоном и / или стилем”, - написал Голдман. “Я знаю, что вы возражаете против этого судебного приказа в целом и что ваши соответствующие профсоюзы уже высказывали и будут продолжать выдвигать возражения и другие вопросы”.
Сотрудники быстро ответили с беспокойством и скептицизмом. “Ни одно из наших должностных инструкций не включает редактирование или рецензирование контента, созданного искусственным интеллектом”, - сказал один сотрудник. “Если вам нужна была статья о порядке фильмов "Звездных войн”, вы... могли бы просто спросить", - сказал другой. “ИИ - это решение, которое ищет проблему”, - сказал работник. “У нас есть талантливые писатели, которые знают, что мы делаем. Настолько эффективно, что все, что вы делаете, - это тратите время каждого”.
На сайтах компании было замечено несколько статей, созданных с помощью искусственного интеллекта, в том числе история "Звездных войн" на io9 vertical от Gizmodo, которая охватывает темы, связанные с научной фантастикой. На своем спортивном сайте Deadspin искусственный интеллект “Deadspin Bot” написал статью о 15 самых ценных профессиональных спортивных франшизах с ограниченными оценками команд и был исправлен 6 июля без указания того, что было не так. На его продовольственном сайте The Takeout был “Бот на вынос”, подписавший статью о “самых популярных сетях быстрого питания в Америке на основе продаж”, в которой не было данных о продажах. 6 июля Gizmodo добавила исправление к своей истории “Звездных войн”, отметив, что "ранжирование эпизодов было неправильным" и было исправлено.
Профсоюз Gizmodo опубликовал в Twitter заявление с осуждением историй. “Это неэтично и неприемлемо”, - написали они. “Если вы видите подпись, заканчивающуюся на "Бот", не нажимайте на нее”. Читателям, которые нажимают на саму подпись бота Gizmodo, сообщают, что эти “истории были созданы с помощью движка искусственного интеллекта”.
Диакопулос из Северо-Западного университета сказал, что чат-боты могут создавать статьи низкого качества. Боты, которые тренируются на данных из таких мест, как Википедия и Reddit, и используют это, чтобы помочь им предсказать следующее слово, которое, вероятно, появится в предложении, все еще имеют технические проблемы, из-за которых им трудно доверять при составлении отчетов и написании, сказал он.
Чат-боты склонны иногда выдумывать факты, опускать информацию, писать языком, искажающим мнение, извергать расовый и сексистский контент, плохо обобщать информацию или полностью выдумывать цитаты, сказал он.
Новостные компании должны иметь “редактирование в цикле”, если они хотят использовать ботов, добавил он, но сказал, что это не может зависеть от одного человека, и должно быть несколько обзоров контента, чтобы убедиться, что он точен и соответствует стилю написания медиа-компании.
Но опасность заключается не только в доверии к медиа-организациям, говорят исследователи новостей. Сайты также начали использовать ИИ для создания сфабрикованного контента, который может ускорить распространение дезинформации и создать политический хаос.
NewsGuard, контролирующий СМИ, сказал, что существует по меньшей мере 301 новостной сайт, созданный искусственным интеллектом, который работает “без человеческого надзора и публикует статьи, написанные в основном или полностью ботами”, и охватывает 13 языков, включая английский, арабский, китайский и французский. Исследователи написали, что они создают контент, который иногда является ложным, например, мистификации о смерти знаменитостей или полностью поддельные события.
По словам аналитиков NewsGuard, организации заинтересованы в использовании искусственного интеллекта для создания контента, поскольку компании, занимающиеся рекламными технологиями, часто размещают цифровую рекламу на сайтах “без учета характера или качества” контента, создавая экономический стимул для использования ботов с искусственным интеллектом, чтобы выпустить как можно больше статей для размещения рекламы.
Лорен Леффер, репортер Gizmodo и член Гильдии писателей Америки East union, сказала, что это “очень прозрачная” попытка G / O Media получить больше доходов от рекламы, потому что искусственный интеллект может быстро создавать статьи, которые генерируют поисковый трафик и переходят по кликам, а стоимость их создания намного ниже, чем у репортера-человека.
Она добавила, что судебный процесс деморализовал журналистов и редакторов, которые считают, что их опасения по поводу стратегии компании в области искусственного интеллекта остались неуслышанными и не ценятся руководством. Дело не в том, что журналисты не допускают ошибок в историях, добавила она, но у репортера есть стимул ограничивать количество ошибок, потому что они несут ответственность за то, что они пишут, — что не относится к чат-ботам.
Леффер также отметил, что по состоянию на полдень пятницы "История звездных войн" набрала примерно 12 000 просмотров страниц в Chartbeat, инструменте, который отслеживает новостной трафик. По ее словам, это бледнеет по сравнению с почти 300 000 просмотров страниц, которые за последние 24 часа сгенерировала написанная человеком история НАСА.
“Если вы хотите управлять компанией, все усилия которой заключаются в том, чтобы заставить людей случайно нажать на [контент], то [ИИ] может стоить вашего времени”, - сказала она. “Но если вы хотите управлять медиакомпанией, возможно, доверьте своей редакции понимать, чего хотят читатели”.
