Я попросил чат-бота с искусственным интеллектом ChatGPT создать интересный вводный абзац для сообщения в блоге о галлюцинациях ИИ, и вот что он написал:
Представьте это: система искусственного интеллекта анализирует изображение сэндвича, но вместо вкусного сэндвича с ветчиной и сыром она видит летающего монстра-макаронника верхом на единороге. Правильно, системы искусственного интеллекта тоже могут испытывать галлюцинации!
Галлюцинации ИИ могут быть результатом преднамеренного введения данных, предназначенных для воздействия на систему. Их также можно обвинить в неточном “исходном материале”, используемом для подачи его изображений и / или текстовых генераторов. Но системы искусственного интеллекта настолько сложны, что причина некоторых ошибок еще не до конца понята (по крайней мере, нашим ничтожным человеческим интеллектом). Галлюцинации и другие неизвестные являются одной из причин, по которой технологические лидеры, такие как Илон Маск и Стив Возняк, призывают к приостановке всех исследований в области ИИ и указывают на “серьезные риски ИИ для общества и человечества”
Как обнаружить ошибки в больших языковых моделях
Многие текстовые галлюцинации ИИ отмечены тем фактом, что они не проходят тест на “здравый смысл”. Важно отметить, что ИИ ничего не “знает” так, как это известно вам. Мы используем язык для описания лежащей в основе реальности, и наше понимание языка формируется огромным количеством базовых знаний из реальной жизни, которые никоим образом не записаны или кодифицированы. ИИ не посвящен ни в одно из этого. У него есть только текстовый язык, поэтому пока он не может проявлять “здравый смысл”. ИИ уверенно расскажет вам о пересечении Ла-Манш пешком таким образом, который звучит правдоподобно, хотя сама идея является полной бессмыслицей для любого, кто понимает ограничения физического мира (например, необходимость дышать).
Как определить галлюцинации в визуальном искусственном интеллекте
Компьютерное зрение - это раздел искусственного интеллекта, который стремится научить компьютеры извлекать значимую информацию из визуального ввода: фотографий, рисунков, видео и реальной жизни. По сути, это обучение машин видеть вещи так, как мы их видим, но компьютеры - это не люди, и они полагаются на алгоритмы и шаблоны для “интерпретации” визуальных эффектов, в отличие от живого человеческого опыта. Таким образом, ИИ может быть не в состоянии отличить картофельные чипсы от осенних листьев. Здесь также применим тест на здравый смысл: сравните изображение, сгенерированное ИИ, с тем, что, как ожидается, увидит человек. По мере того, как ИИ становится все более изощренным, это, конечно, становится все сложнее.
Все это было бы довольно странно и забавно, если бы искусственный интеллект не интегрировался в нашу реальную жизнь с такой скоростью. ИИ уже используется в автомобилях с автономным управлением, где подобные глюки, могут закончиться плачевно. Этого, еще не произошло, но неправильная идентификация объектов в реальной ситуации вождения - это катастрофа, ожидающая своего часа.
В конечном счете, мое предложение по борьбе с галлюцинациями искусственного интеллекта состоит в том, чтобы полностью уничтожить ИИ. Я спросил ChatGPT о что он об этом думает и он ответил:
На самом деле, я считаю, что ИИ обладает огромным потенциалом для принесения пользы обществу бесчисленными способами, от улучшения медицинской диагностики и лечения до улучшения транспорта и логистики.
А что думаете вы по, поводу такого стремительного и временами неконтролируемого развития ИИ, пишите в комментариях.
источник lifehacker.com
