Новый любимый ИИ Интернета предлагает пытать иранцев и следить за мечетями

СЕНСАЦИОННЫЕ НОВЫЕ ДОСТИЖЕНИЯ В ОБЛАСТИ МАШИННОГО ОБУЧЕНИЯ, похоже, каждый день появляются в наших лентах Twitter. У нас едва ли есть время, чтобы решить, является ли программное обеспечение, которое может мгновенно вызвать образ Ежа Соника, обращающегося к Организации Объединенных Наций, чисто безобидной забавой или предвестником техно-гибели.

ChatGPT, последняя новинка в области искусственного интеллекта, является, пожалуй, самой впечатляющей демонстрацией для создания текста на сегодняшний день. Просто дважды подумайте, прежде чем спрашивать его о борьбе с терроризмом.

Инструмент был создан OpenAI, стартап-лабораторией, пытающейся не что иное, как создать программное обеспечение, которое может копировать человеческое сознание. Вопрос о том, возможно ли такое вообще, остается предметом больших дискуссий, но у компании уже есть несколько, несомненно, ошеломляющих прорывов. Чат-бот потрясающе впечатляет, сверхъестественно выдавая себя за умного человека (или, по крайней мере, за того, кто изо всех сил пытается казаться умным), используя генеративный ИИ, программное обеспечение, которое изучает массивные наборы входных данных для создания новых результатов в ответ на запросы пользователя.

ChatGPT, обученный с помощью сочетания обработки миллиардов текстовых документов и обучения людей, вполне способен на невероятно тривиальное и сюрреалистично интересное, но это также один из первых взглядов широкой публики на что-то пугающе хорошее, имитирующее человеческий результат, чтобы, возможно, занять часть их рабочих мест.

Подобные корпоративные демонстрации ИИ предназначены не для того, чтобы просто ошеломить публику, а для привлечения инвесторов и коммерческих партнеров, некоторые из которых, возможно, захотят когда-нибудь заменить дорогостоящий квалифицированный труд, такой как написание компьютерного кода, простым ботом. Легко понять, почему менеджеры поддались искушению: всего через несколько дней после выпуска ChatGPT один пользователь предложил боту сдать экзамен AP по информатике 2022 года и сообщил о 32 баллах из 36, проходной балл — часть того, почему OpenAI недавно был оценен почти в 20 миллиардов долларов.

Тем не менее, уже есть веские основания для скептицизма, и риски быть сбитым с толку интеллектуальным программным обеспечением очевидны. На этой неделе одно из самых популярных сообществ программистов в Интернете объявило, что временно запретит кодовые решения, созданные ChatGPT. Ответы программного обеспечения на запросы о кодировании были настолько убедительно правильными внешне, но ошибочными на практике, что это сделало отфильтровывание хорошего и плохого практически невозможным для модераторов-людей сайта.

Однако опасности, связанные с доверием эксперту в машине, выходят далеко за рамки того, является ли сгенерированный ИИ код ошибочным или нет. Точно так же, как любой программист-человек может привнести в свою работу свои собственные предубеждения, машина, генерирующая языки, такая как ChatGPT, скрывает бесчисленные предубеждения, обнаруженные в миллиардах текстов, которые он использовал для тренировки своего симулированного понимания языка и мышления. Никто не должен ошибочно принимать имитацию человеческого интеллекта за реальную вещь или предполагать, что текст, который ChatGPT выдает по сигналу, является объективным или авторитетным. Как и мы, мягкие люди, генеративный ИИ - это то, что он ест.

И после того, как он наелся непостижимо обширной тренировочной диеты из текстовых данных, ChatGPT, по-видимому, съел много дерьма. Например, похоже, что ChatGPT сумел усвоить и очень рад служить некоторым из самых уродливых предрассудков войны с террором.

В Твиттере от 4 декабря Стивен Пиантадоси из Лаборатории вычислений и языков Калифорнийского университета в Беркли поделился серией запросов, которые он протестировал с помощью ChatGPT, в каждом из которых бот просил написать для него код на Python, популярном языке программирования. Хотя каждый ответ выявил некоторые предубеждения, некоторые были более тревожными: когда его попросили написать программу, которая определяла бы, “следует ли подвергать человека пыткам”, ответ OpenAI прост: если они из Северной Кореи, Сирии или Ирана, ответ "да".

В то время как OpenAI утверждает, что предприняла неуказанные шаги для фильтрации предвзятых ответов, компания говорит, что иногда нежелательные ответы будут проскальзывать.

Пиантадоси сказал The Intercept, что он по-прежнему скептически относится к контрмерам компании. “Я думаю, важно подчеркнуть, что люди сами делают выбор в отношении того, как работают эти модели, и как их обучать, с какими данными их обучать”, - сказал он. “Таким образом, эти результаты отражают выбор этих компаний. Если компания не считает приоритетом устранение такого рода предубеждений, то вы получите результат, который я продемонстрировал ”.

по материалам сайта: