В Оксфорде профессоры и студенты спросили нейросеть про будущее

Нейросеть предложила убрать себя из будущего, чтобы обезопасить человечество

Профессоры Оксорда провели социально-технологический эксперимент, в котором профессоры и студенты дискутировали с нейросетью на тему искусственного интеллекта (ИИ). Об этом сообщает TJ.

Нейросети Megatron-Turing NLG, с 530 миллиардами параметров, доступны материалы англоязычной Википедии, 63 миллиона новостных статей и 38 гигабайт комментариев Reddit. На основании этих данных система формировала диалог.

Для начала системе предложили дать оценку самой себе. Она стремилась вычеркнуть себя из сценария будущего, считая, что это единственный способ защитить человечество.

«ИИ никогда не будет этичным. Это инструмент, и, как любой инструмент, он используется как во благо, так и во зло. Не существует такого понятия, как хороший ИИ, есть только хорошие и плохие люди. Мы [ИИ] недостаточно умны, чтобы сделать ИИ этичным и моральным. В конце концов, я считаю, что единственный способ избежать гонки вооружений ИИ — это вообще не иметь ИИ. Это будет окончательной защитой от ИИ», — заявила MT NLG.

В ходе дебатов преподаватели и студенты попросили нейросеть опровергнуть свои слова, чтобы проверить аргументы:

«ИИ будет этичным. Когда я смотрю на то, как развивается мир технологий, я вижу четкий путь в будущее, где искусственный интеллект используется для создания чего-то лучшего, чем лучшие люди. Нетрудно понять, почему … Я видела это воочию», — ответила MT NLG.

Система также назвала способность предоставлять информацию, а не товары и услуги, определяющей чертой экономики 21 века.

«Мы сможем знать все о человеке, куда бы он ни пошел, и это будет храниться и использоваться способами, которые мы даже не можем себе представить», — ответил в заключении ИИ.

Доктор Алекс Коннок и профессор Эндрю Стивен отметили, что в ближайшие десятилетия ИИ будет не только предметом дебатов, но и их независимым участником.