Специалист по этике ИИ предупреждает, что гонка вооружений Google и Microsoft в области искусственного интеллекта может иметь «непредвиденные последст

Google официально настроен противостоять ChatGPT OpenAI — и скоро.

Технический титан, который держит интернет-поиск мертвой хваткой с тех пор, как его помнят большинство веб-пользователей, официально объявил в понедельник, что в «ближайшие недели» он развернет Bard, свой экспериментальный сервис разговорного ИИ.

Объявление было сделано всего за день до того, как Microsoft (MSFT) , которая работает над интеграцией технологии, подобной ChatGPT, в свои продукты, включая поисковую систему Bing, собирается провести мероприятие с OpenAI в своей штаб-квартире в штате Вашингтон.

«Поисковые войны в Интернете вернулись», — написал Ричард Уотерс из Financial Times в статье, опубликованной в понедельник. Десятилетие назад».

Версия этой статьи впервые появилась в информационном бюллетене «Надежные источники». Подпишитесь на ежедневный дайджест, отражающий развитие медиа-ландшафта, здесь.

Но быстрое появление этой технологии также вызвало серьезные этические вопросы, особенно с учетом того, что она выводится на рынок с головокружительной скоростью.

«Мы заново переживаем эру социальных сетей», — сказала Бина Амманат, руководитель направления Trustworthy Tech Ethics в Deloitte и исполнительный директор Global Deloitte AI Institute.

Амманат сказал, что «непредвиденные последствия» сопровождают каждую новую технологию, и неохотно выразил уверенность, что это произойдет и с чат-ботами с искусственным интеллектом, если не будут приняты серьезные меры предосторожности. На данный момент она не видит барьеров, которые могли бы обуздать зарождающуюся технологию. Вместо этого Амманат приравнял то, что происходит в настоящее время, к быстрому развертыванию ИИ, когда компании «строят Парк Юрского периода, размещают знаки опасности на заборах, но оставляют все ворота открытыми». Да, есть некоторое признание опасностей, которые представляет технология. Но этого недостаточно, учитывая риски.

Амманат подчеркнул, что ученым-компьютерщикам, работающим над ИИ, еще предстоит решить многолетнюю проблему предвзятости, а также другие тревожные проблемы, которые мешают этой технологии. Одна из основных проблем заключается в том, что боты с искусственным интеллектом не могут отделить правду от фантазии.

«Проблема с новыми языковыми моделями заключается в том, что они смешивают факты и вымысел, — сказал мне Амманат. «Он эффективно распространяет дезинформацию. Он не может понять содержание. Таким образом, он может извергать совершенно логично звучащий контент, но неверный. И делает это с полной уверенностью».

Именно это и произошло в прошлом месяце, когда CNET была вынуждена внести исправления в ряд статей, в том числе в те, которые были названы «существенными», после использования инструмента на базе ИИ, который помог новостному агентству написать десятки статей. И вслед за этим другие издания, такие как BuzzFeed, уже используют технологию написания роботов, чтобы помочь ей создавать контент и викторины.

«Это новое измерение, которое привнес генеративный ИИ», — добавил Амманат.

Объявив, что Google скоро развернет свой ИИ, исполнительный директор Сундар Пичаи подчеркнул, что «крайне важно, чтобы мы смело и ответственно делились опытом, основанным на этих моделях». И Пичаи подчеркнул, что Google «привержен к ответственной разработке ИИ».

Но трудно отрицать, что компания, находящаяся под огромным давлением инвесторов после того, как ChatGPT ворвался на сцену, не спешит выводить свой продукт на рынок как можно быстрее. Во внутренней записке для сотрудников сам Пичаи сказал, что все руки на палубе и что компания «привлечет каждого сотрудника Google, чтобы помочь сформировать Барда и внести свой вклад посредством специального общекорпоративного мероприятия», которое, по его словам, будет иметь «дух внутреннего хакатона». ».

«Мы подошли к этой работе с интенсивностью и сосредоточенностью, которые напоминают мне ранний Google, — написал Пичаи, — так что спасибо всем, кто внес свой вклад».

Но ясно, что и Google, и Microsoft, одни из самых ценных и новаторских компаний в Интернете, хорошо понимают, что технология ИИ способна изменить мир, каким мы его знаем. Единственный вопрос заключается в том, будут ли они следовать принципу Кремниевой долины «двигайся быстро и ломай вещи», который вызвал столько беспорядков в прошлом?