Постчеловеческая эра. ИИ. Сколько людей нужно на Земле. Часть II

"Бог - это разум, переросший границы нашего понимания".Фримен Дайсон, физик.

Искусственный интеллект

Часть первая https://www.9111.ru/questions/777777777794377/

В части второй я представлю вам мнение математиков, ITишников по поводу ИИ (Искусственный интеллект) и его возможной опасности для человека.

Дабы не пугать вас научными терминами, представляю расшифровку. Скорее всего эти «страшные» слова и так скоро зазвучат повсюду, как когда-то дикторы натужно произносили слово «нанотехнологии»))

Технологическая сингулярность — предположительный момент, при наступлении которого технический прогресс станет настолько быстрым и сложным, что окажется недоступным пониманию человека. Сам человек – практически ненужным.

В 1993 году на симпозиуме VISION-21 математик и писатель Вернор Виндж произнёс следующее:

«Ускорение технического прогресса - основная особенность XX века. Мы на грани перемен, сравнимых с появлением на Земле человека. Сугубая причина этих перемен заключается в том, что развитие техники неизбежно ведёт к созданию сущностей с интеллектом, превышающим человеческий»

В XI веке он дополнил свои тезисы комментариями.

Тремя годами позже Эрик Декслер, автор термина «нанотехнологии» и крёстный их отец, после выхода своей книги «Машины созидания: грядущая эра нанотехнологии», сделал заявление о том, что «со всеми подобными техническими возможностями, вероятно, правительства решат, что простые граждане им больше не нужны»

Особенно пугающим такое заявление звучит на фоне того, что основные прогнозы Декслера уже сбылись.

«Слабый искусственный интеллект» и «Сильный искусственный интеллект».

На данный момент существуют понятия «Слабый искусственный интеллект» и «Сильный искусственный интеллект».

Слабый уже создан. Дайджест (наиболее интересные идеи, опубликованные для ознакомления) новостей машинного обучения и искусственного интеллекта можно регулярно смотреть в разных источниках, например здесь https://vc.ru/ml/96673-daydzhest-novostey-mashinnogo-obucheniya-i-iskusstvennogo-intellekta-za-noyabr

http://digitalbusinessmodel.ru/page8210012.html

Кто решит пойти дальше - indicator.ru в помощь, множество статей.

Не стану утомлять подробностями и перегружать публикацию. Скажу только, что некоторые разработки вполне себе впечатляют.

Гипотеза сильного искусственного интеллекта предполагает, что компьютеры или программы могут приобрести способность осознавать себя как отдельную личность, понимать собственные мысли.

Мой анализ публикаций про ИИ на этом форуме неутешителен. Отношение «лёгонькое». У адептов христианства – вообще пофигистическое.

А меж тем процесс обучения ИИ включает в себя все операции мышления, как анализ, синтез, сравнение. Поэтому следующий этап, «Рефлексия», практически неизбежен. Сама по себе рефлексия – уже признак сознания и осознавания.

Вероятное время создания сильного ИИ разные учёные расценивают по-разному. Но большинство сходится во мнении, что это будут 30-е, 40-е годы нашего столетия. Некоторые считают, что создание станет внезапным и произойдёт гораздо быстрее.

При этом практически все понимают, что необходимо простраивать этику ИИ в целях его безопасности.

Особо радужные мечтания – создание сильного ИИ позволит наконец начать осваивать космос широко, решить проблему увеличения продолжительности жизни за счёт новых технологий. Расселение в космосе позволит решить проблему превышенной численности людей, описанной в первой публикации этого цикла.

Вот почему-то не разделяю эти радужные мечты.

В чём причины пессимизма?

Их несколько:

1. Создавая ИИ не запускаем ли мы процесс создания Создателем человека (для тех, кто верит) или создания человека из обезьяны (для атеистов)? Ирвинг Джон Гуд (математик) писал: "Определим сверхразумную машину как машину, которая способна значительно превзойти все интеллектуальные действия любого человека, как бы умён тот ни был. Поскольку способность разработать такую машину также является одним из этих интеллектуальных действий, сверхразумная машина может построить ещё более совершенные машины. Таким образом, первая сверхразумная машина станет последним изобретением, которое выпадет на долю человека, при условии, что машина будет достаточно покорна и поведает нам, как держать ее под контролем... И вероятность того, что сверхразумная машина будет построена и станет последним изобретением, которое совершит человек, выше, чем вероятность того, что этого не случится».

2. Развитие техники очень приближается к рабовладельческому государству. Отчего именно к нему? А достаточно вспомнить восстания рабов и выход их из-под влияния господ. Да,да, господа пока что это мы. Господа с достаточно низким духовным уровнем. Уровнем, который не будет поддерживать ИИ.

3. Возвращаясь к высказыванию Декслера – правительства реально не будут нуждаться в большом количестве граждан. Работа будет только у тех, кто будет занят именно в сфере технологий ИИ. Кроме всего прочего высока вероятность именно войн в полном понимании

массового поражения. Цель их надеюсь объяснять не надо.

А к чему это я уже 2 публикацию посвящаю практически одному и тому-же?

А к тому, что всё ещё надеюсь на возможное объединение людей для их же спасения.

Не скрою, периодически мониторю комментарии по ключевым словам, связанным с объединением людей в группы. Недавно попалось такое « наша банда».

Дело в том, что объединение людей всегда происходит с целью получения ощущения безопасности – эмоциональной, экономической, физической наконец.

Милая «банда», не тешьте себя иллюзией-вы имеете только эрзац эмоциональной безопасности. Настоящая банда в это время получает всё, и отнюдь не эрзац.

Один из выводов.

А не пора ли уже, не взирая на все наши противоречия, наконец добиться не только декларации того, что в нашем государстве высшей ценностью является человек, к совместному созданию механизма, который обеспечит и бесплатное здравоохранение, и образование, и доступ к нашему настоящему культурному наследию?

А не пора ли найти то, вокруг чего мы наконец сможем объединиться? Оно должно быть.

Есть и другие мысли, которыми готова делиться в комментариях.

Клипы... оба без комментариев.

Хотя нет... один будет

Мы сделаем вид, Что мир нам открыт Вполне…