После сообщения о том, что CNET незаметно публиковал десятки статей, созданных ИИ, многие выразили тревогу по поводу того, что казалось закулисной попыткой упразднить работу писателей-людей начального уровня, одновременно преуменьшая некачественный контент для читателей сайта.
Однако одна группа была в полном восторге: спамеры, которые едва могли сдержать свое ликование по поводу того, что крупному издателю сходит с рук штамповка контента, написанного ботами, — и сразу же выразили планы сделать то же самое.
«Время выкачивать контент на сверхвысокой скорости», — воспевал один из плакатов на BlackHatWorld, печально известном форуме по поисковой оптимизации черных шляп, участники которого обмениваются грязными трюками и продают незаконные услуги.
«Сейчас самое время максимально использовать этот ключевой момент, который сократит расходы на писателей», — вмешался другой.
Смысл был ясен: такие инструменты, как ChatGPT, теперь позволят мошенникам загрязнять Интернет почти бесконечным количеством мусора, созданного ботами, и что CNET и его дочернее издание Bankrate уже проложили путь. В некотором смысле это послужило прекрасной иллюстрацией недавнего предупреждения ученых из Стэнфорда и Джорджтауна о том, что технология ИИ может быстро начать заполнять Интернет бесконечным количеством дезинформации и спекуляций.
Спамеры были особенно зациклены на ответе Google на разоблачения CNET и Bankrate AI, которые они интерпретировали как изменение своей предыдущей позиции, согласно которой Google будет наказывать контент, созданный AI, в результатах поиска.
«Наша команда по ранжированию фокусируется на полезности контента, а не на том, как он создается», — сказал в то время представитель компании по связям с общественностью Дэнни Салливан. «Это позволяет нам создавать решения, направленные на сокращение всех типов бесполезного контента в поиске, независимо от того, создается ли он людьми или с помощью автоматизированных процессов».
На BlackHatWorld спамеры интерпретировали эти замечания как запуск бесплатного контента ИИ для всех.
«Это не что иное, как капитуляция Google перед ИИ», — написал один из них. «Короче говоря, они говорят:« Мы не способны различать контент ИИ и контент, созданный вручную, и поэтому мы принимаем это как образ жизни »».
«Мой ИИ-контент служит пользователям… он служит им рекламой!» другой плакат насмехался над поисковым гигантом. "Значит, все хорошо, верно, большой G?"
Это правда, что рост контента, созданного искусственным интеллектом на уровне ChatGPT, представляет собой эскалацию многолетней битвы Google со спамерами. Но, по словам компании, любых спамеров, которые резко перейдут на технологию в стиле ChatGPT, ждет грубое пробуждение.
Как отметил представитель Google в ответ на вопросы, Салливан и другие сотрудники поискового гиганта уже некоторое время выражают нюансы в отношении контента, созданного ИИ.
Представитель сказал, что, хотя некоторые в компании предупреждали, что Google будет рассматривать контент, созданный ИИ, как спам, они конкретно говорили о контенте, написанном ботами, предназначенном для манипулирования системой поисковой системы. На самом деле, по их словам, контент, созданный ИИ, сам по себе не запрещен, но любой контент, созданный с основной целью повышения рейтинга в поиске, по-прежнему противоречит политике компании в отношении спама и готов к применению жестких мер.
«Мы не говорили, что ИИ-контент — это плохо», — написал, например, Салливан еще в ноябре 2022 года. «Мы довольно четко сказали, что проблема заключается в том, что контент, написанный в первую очередь для поисковых систем, а не для людей, является проблемой. Это то, на чем мы сосредоточены. ИИ, та же проблема».
Другими словами, конечная цель состоит не в том, чтобы обязательно наказывать материал просто потому, что он был сгенерирован ИИ, а в том, чтобы привлечь к ответственности спам и бесполезный контент, независимо от его авторства.
«За более чем 20 лет поиск адаптировался к новым методам спама и низкокачественному контенту, включая массовый контент в различных формах», — сказал Салливан в новом заявлении, предоставленном Futurism . «Каждый день мы выявляем более 40 миллиардов страниц со спамом и предотвращаем их появление в результатах поиска. Контент, созданный с целью ранжирования игрового поиска, независимо от того, создан ли он людьми или искусственным интеллектом, по-прежнему является спамом и будет рассматриваться как таковой. "
Сможет ли Google справиться с вызовом вездесущего контента, генерируемого ИИ, вероятно, будет иметь важное значение для качества онлайн-информации, поскольку де-факто это все еще инструмент, используемый большинством людей для поиска информации в открытой сети.
С одной стороны, Google обладает огромным инженерным мастерством, многолетним опытом и огромными собственными инвестициями в технологии искусственного интеллекта, и все это можно использовать против спама, создаваемого искусственным интеллектом. Но если усилия CNET с контентом, сгенерированным ИИ, являются признаком грядущих событий, им все равно предстоит тяжелая борьба по простой причине: это новое поколение генерируемого ИИ мусора, на поверхностном уровне, очень убедительно. .
После нашей первоначальной истории главный редактор CNET Конни Гульельмо опубликовала довольно прохладный пост, в котором публично признала программу ИИ и заверила читателей, что редактор-человек по-прежнему тщательно проверяет каждую статью. Но, как мы сообщили в ответ, внимательное прочтение одного из финансовых пояснений CNET , созданных искусственным интеллектом, показало, что, хотя оно было написано с большой уверенностью, оно было пронизано вопиющими фактическими ошибками.
ИИ не смог должным образом объяснить, как работают базовые сложные проценты, и исказил элементарные факты о личных банковских операциях. Хуже всего то, что объяснитель был явно нацелен на людей с невысокой финансовой грамотностью, а это означало, что если он будет ранжироваться в Google, люди, наиболее нуждающиеся в помощи, получат информацию самого низкого качества, какое только можно себе представить.
Эти тревожные неточности демонстрируют, что, хотя ИИ способен составлять грамматически правильные — хотя и довольно прозаические — предложения, он часто не может правильно воспроизвести даже основные факты, несмотря на авторитетный тон.
Тем не менее, если неоднократная позиция Google в отношении спама и бесполезного контента звучит правдоподобно, почему же тогда эти написанные искусственным интеллектом объяснения, изобилующие неприятными неточностями и заточенные под поисковые алгоритмы, по-прежнему высоко ранжируются? Быстрый поиск показывает, что написанные CNET объяснители с искусственным интеллектом, дополненные предупреждениями о точности, часто по-прежнему находятся среди первых результатов в Google.
Вы действующий или бывший сотрудник CNET, который хочет обсудить набег компании на статьи, созданные с помощью ИИ? Пишите на tip@futurism.com , чтобы поделиться своей точкой зрения. Ничего страшного, если вы не хотите, чтобы вас называли по имени.
Еще одна проблема заключается в том, что большая часть контента ИИ, вероятно, не будет помечена. Даже в CNET бывшие сотрудники теперь утверждают, что материал, созданный ИИ, который был помечен как таковой, мог быть только верхушкой айсберга.
В конце концов, у CNET и Bankrate все еще есть сотрудники, которые заботятся о том, чтобы все было правильно, и которые возмущены инициативой ИИ. Один из сотрудников Red Ventures сообщил нам на этой неделе, что внутренний протест после сообщения Futurism был настолько сильным, что Bankrate в среду приостановил публикацию всего контента, созданного ИИ. CNET , похоже, сделал то же самое, по крайней мере временно.
Однако спамеры на BlackHatWorld, скорее всего, не испытывают таких угрызений совести. В частности, у одного из них были собственные мрачные мысли о росте ИИ.
«Что, если Google полностью примет контент AI только для того, чтобы развернуть свою собственную функцию поиска в стиле ChatGPT, где пользователи получают ответы напрямую, без веб-сайтов, на которые можно нажимать?» они задумались. «Это было бы катастрофой для всего интернета».
Джон Кристиан предоставил репортаж.
Источник: https://futurism.com
