ChatGPT Midjourney собирается прекращать бесплатные пробные версии после «злоупотребления этим инструментом»

Спорный инструмент для создания изображений с искусственным интеллектом прекращает бесплатные пробные версии после «злоупотребления»

Сайт использовался для создания поддельных фотографий арестованного Дональда Трампа и Папы Римского в стильном пальто.

Спорный ИИ, создающий изображения, прекратил бесплатные пробные версии после того, как заявил, что его «злоупотребляли».

Это изменение произошло после того, как с помощью этого инструмента был создан ряд громких поддельных изображений, в том числе фотографии арестованного Дональда Трампа и Папы Римского в стильной куртке.

После этого спора исполнительный директор Midjourney объявил в Discord, что сайт прекращает свои бесплатные пробные версии из-за «чрезвычайного спроса и злоупотреблений пробными версиями». По его словам, компания пробовала другие варианты, в том числе новые меры безопасности, но их было недостаточно, чтобы остановить людей, злоупотребляющих сервисом во время пробных периодов.

Изменение не является прямым ответом на эти изображения. Проблема возникла из-за того, что огромное количество людей создавало одноразовые аккаунты, чтобы получить бесплатные изображения, чему, по-видимому, способствовало «вирусное обучающее видео в Китае», сказал господин Хольц The Verge.

В первоначальных сообщениях эти два события были связаны из-за ссылки господина Хольца на жестокое обращение. Но считается, что эти изображения были созданы самой последней версией Midjourney — версией 5, которая в любом случае недоступна для бесплатных пользователей.

Это новое обновление исправило многие из давних ошибок в Midjourney, в том числе сложность рисования рук, которая ранее была относительно простым способом распознавания подделок ИИ. Именно эта повышенная точность, по-видимому, привела к тому, что его использовали для создания вирусных изображений фейковых новостных событий.

ChatGPT будет в запрещен

Тем не менее это знаменует собой еще одно противоречие для генеративного ИИ за неделю, когда появилось множество поддельных фотографий, призыв прекратить разработку новых систем ИИ во имя безопасности и запрет ChatGPT в Китае.

В прошлом Midjourney столкнулась с разногласиями по поводу ограничений, которые она устанавливала на использование своей системы. Он ввел определенные правила, чтобы избежать «драмы», сказал господин Хольц, но имеет относительно свободные правила в отношении того, как можно использовать его систему.

Например, после шквала фальшивых изображений Дональда Трампа Midjourney заблокировал слово «арест» и заблокировал человека, который их сделал. Но это, похоже, не отражало каких-либо более широких изменений политики, и пользователи быстро нашли способы обойти эти ограничения, например, более конкретно описать, как может выглядеть арест.

Господин Хольц сказал The Verge, что бесплатные пробные версии могут вернуться, как только компания найдет способ гарантировать, что люди не будут создавать несколько учетных записей, чтобы злоупотреблять ими.