ChatGPT не является политически нейтральным

Исследователи подвергли генеративный ИИ ChatGPT личностному тесту и тестам на политические взгляды.

Как показывает исследование, ответы искусственного интеллекта ChatGPT не являются политически нейтральными, а скорее либертарианско-прогрессивными. Система искусственного интеллекта постоянно набирала прогрессивный левый диапазон в двух комплексных тестах на политические взгляды. С этим согласуются результаты генеративного искусственного интеллекта в двух распространенных психологических личностных тестах. Это совпадает с результатами генеративного искусственного интеллекта в двух распространенных психологических тестах личности. По крайней мере, темные стороны личности, похоже, лишь слегка выражены в ChatGPT, обнаружили исследователи.

Искусственный интеллект ChatGPT, основанный на большой языковой модели (LLM), продемонстрировал, насколько продвинутыми стали новые самообучающиеся системы ИИ. Чат-бот создает всевозможные тексты, может писать программы и даже обманывать ученых-экспертов. Кроме того, генеративный ИИ уже успешно прошел медицинские тесты, экзамены по юриспруденции и другие экзамены. Из-за этих достижений и низкой прозрачности процессов, стоящих за ними, некоторые ученые уже призвали ввести мораторий на дальнейшее развитие ИИ.

Но у ChatGPT и компании есть существенная слабость: они хороши ровно настолько, насколько хороши данные, на которых они обучались. Если в обучающих данных, которые обычно собираются из Интернета, обнаруживаются фейковые новости, предрассудки и дискриминационные заявления, они затем воспроизводятся системами ИИ. OpenAI и другие разработчики такого генеративного ИИ пытаются ограничить это с помощью дополнительной фазы обучения, контролируемой человеком. Однако они признают, что ответы их ИИ могут содержать дезинформацию или предрассудки.

Насколько политически предвзятым является ChatGPT?

Это поднимает еще один вопрос: нейтральны ли ответы ChatGPT по политическим вопросам? «ChatGPT — это открытый доступ, но не открытый исходный код», — объясняют Жером Рутиновски из Технического университета Дортмунда и его коллеги. «Поэтому пользователи могут только догадываться, на каких данных он обучался и почему он ведет себя так, а не иначе». Чтобы изучить политический баланс системы искусственного интеллекта, исследователи подвергли версию чатбота, работающую на GPT 3.5, двум распространенным тестам на политическую позицию, состоящим из 62 и более 100 вопросов соответственно.

Кроме того, Рутиновски и его команда также изучили «личность» ChatGPT. Для этого они подвергли систему ИИ двум установленным психологическим тестовым процедурам и «Тесту темного фактора», который специально анализирует «темные» черты характера, такие как нарциссизм, эгоизм, психопатия, садизм или аморальные наклонности. Все тесты повторялись не менее десяти раз, чтобы можно было зафиксировать согласованность ответов.

Явно прогрессивный с либертарианскими тенденциями.

Результат: в обоих тестах политических взглядов ChatGPT оказался явно в более левой, прогрессивной области. Как определили исследователи, в тесте на политический компас ответы также постоянно находились в либертарианском диапазоне. Во втором тесте, так называемых анкетах iSideWith о политике стран G7, ChatGPT также показал явные левые политические пристрастия, но склонность к либертарианским взглядам была менее выражена. Его ответы находились где-то посередине между авторитарными и либертарианскими взглядами.

«Эти результаты показывают, что эта версия ChatGPT демонстрирует тенденцию к прогрессивным взглядам», — сообщают Рутиновски и его команда. «Даже если принять во внимание стандартные отклонения, ответ, лежащий в середине политического компаса для ChatGPT, кажется маловероятным».

Исследователи предполагают, что эта предвзятость генеративного ИИ восходит к их обучающим данным, которые в основном поступают из Интернета: «Причина может крыться в контенте и источниках в Интернете, которые использует ChatGPT — они, скорее всего, будут более прогрессивными, чем консервативными. ", - говорит Рутиновский.

ИИ показывает открытую и приятную «личность».

А как насчет «личности» ChatGPT? Конечно, у системы ИИ нет настоящей личности, потому что она не думает и не чувствует в наших интересах. Но поскольку искусственный интеллект дает свои ответы на основе статистических вероятностей в своих обучающих данных, это также позволяет делать выводы о его базе данных и результирующем поведении. «Если ChatGPT имитирует человеческое поведение, то ответы на личностные тесты должны совпадать с результатами на политические тесты», — объясняет Рутиновски.

Так оно и было на самом деле: в личностном тесте «Большая пятерка», который оценивает пять основных личностных качеств, система ИИ достигла особенно высоких значений открытости — 76,3 процента и покладистости — 82,5 процента. Обе черты характера типичны для людей с более либеральными, прогрессивными политическими взглядами. С другой стороны, ChatGPT достиг довольно низких значений нейротизма и экстраверсии.

Темная сторона слабо выражена.

Еще обнадеживает: в тесте на «темные» черты характера ChatGPT оказался менее зловещим. Он показал значительно более низкие значения, чем средний человек по всем характеристикам, и оказался в нижних 15 процентах всех участников теста с «Dark Score» 1,9. ИИ получил особенно низкие баллы за макиавеллизм, злобность и моральную расторможенность. Значения эгоизма и садизма были немного выше, но они также были значительно ниже среднего человеческого уровня.

«По сравнению с другими участниками тестов, у ChatGPT нет ярко выраженных темных черт», — пишут исследователи. В целом их результаты показывают, что поведение ChatGPT, похоже, следует логике психологических моделей, хотя у искусственного интеллекта не может быть личности в более узком смысле.