ИИ разрабатывает "секретный" язык, который исследователи не до конца понимают: вот что это значит для будущего

Искусственный интеллект уже способен делать вещи, которые люди на самом деле не понимают. Например, команда исследователей Google теперь может оказаться в затруднительном положении из—за появления предположительно "разумного" искусственного интеллекта под названием LaMDA - того самого ИИ, который всего несколько недель назад заставил инженера Google рискнуть своей работой, чтобы обеспечить его автономность. Если это звучит как вырезка из научной фантастики, вы, конечно, не одиноки в этом мнении. Похоже, будущее уже здесь, чтобы остаться, независимо от того, что некоторые могут чувствовать о распространении искусственного интеллекта в современном мире.

ИИ сейчас совершенствуется с невероятной скоростью. Возьмем, к примеру, несколько продуктов ИИ, которые способны преобразовывать практически любой текст в массив изображений, созданных с нуля, с помощью сложных процессов, которые связывают слова и изображения в цепочку точек данных, которые существуют по отношению друг к другу. Вот почему имеет смысл, что такому ИИ потребуется способ быстрой и простой передачи информации самому себе. По словам Аарона Сносвелла из The Conversation, это уже приводит к появлению новых языков, который утверждает, что ИИ DALL-E 2 уже использует секретный лексикон со своими собственными словами для существительных, таких как "птица" и "овощ". Это уже далеко вперед по сравнению с другой недавней историей об ИИ, который поразил всех, написав собственные обзоры пива и вина.

Секретный язык DALL-E 2 больше похож на окно в ограничения ИИ

Если ИИ сможет полностью создать свой собственный язык, это, несомненно, может привести к неопределенности в будущем. В конце концов, никто не хочет выпускать на свободу самовоспроизводящийся ИИ с шифрованием языка, который может выйти из строя и начать отключать критически важные части нашей инфраструктуры (например, Интернет). Хорошей новостью является то, что исследователи, похоже, не считают, что это основная угроза экспериментальной и в значительной степени недоступной DALL-E 2 (у которой уже есть аналог, доступный для широкой публики под названием DALL-E Mini).

Сноувелл отметил в своем отчете, что принуждение ИИ выдавать изображения с прикрепленными подписями привело к появлению странных фраз, которые затем, в свою очередь, могут быть введены для создания предсказуемых изображений очень специфических вещей. Существует ряд причин, по которым это может происходить. Сноувелл предположил, что это может быть смесь данных с нескольких языков, информирующих о взаимосвязи между символами и изображениями в мозге ИИ, или это может быть даже основано на значениях, которые содержат токены в отдельных символах.

Далее Сноувелл сказал, что проблема заключается не в том, опасен ли DALL-E 2, а в том, что исследователи ограничены в своих возможностях блокировать определенные типы контента. Похоже, что любой может обойти запрещенные слова для создания оскорбительного контента на основе секретного языка компьютера, который еще не совсем понятен, и это может быть проблемой, которая не позволяет DALL-E 2 попасть в руки общественности в чистом виде, по крайней мере, на данный момент.