Мое частное мнение об опасности ИИ для будущего человечества

Автор: Xpath

Личное

***

Личное

***

Мое частное мнение об опасности ИИ для будущего человечества

Я нисколько не претендую на роль мыслителя и уж тем более оракула.

Это просто мое частное и личное мнение.

Скорее это совокупность интуитивных предчувствий или если угодно результат работы подкорки.

Я много лет, работая программистом любил, уже будучи в постели, перед сном, всячески "обсосать" и обдумать проблемму, которую надо решить или мне или группе людей, которых я возглавлял.

Конечно же, я слышал о Менделееве, и об открытии им периодической системы элементов во сне. Кстати, к слову сказать, западная система Майера и в подметки не годится Менделееву. Они главное зерно упустили из виду. Ну об этом в другой раз.

Так вот. Недавно мы подружились с интересным автором Артерус Немо. У него в профайле есть список цитат, где я обнаружил несколько мне неизвестных.

(Сюрприз, а то я подумал, что знаю уже все. LOL. :)

Одна из этих цитат подтолкнула меня на цепь рассуждений, и вот утром, после сна, созрел топик. Мне лично, кажется, это наиболее реальной опастностью от массированного применения ИИ.

Вот эта цитата:

"Обязательно наступит день, когда технологии превзойдут простое человеческое общение, и тогда мир получит поколение идиотов". Альберт Эйнштейн.

Запомним ее.

В предверии 21 декабря 2012 года, было много публикаций, как и о конце света, так и о "точке сингулярности", когда человечество/вселенная пройдут через нее и мы пойдем все вместе к светлому будущему. Оптимизм, конечно вещь хорошая, но посмотрев на всю "видимую" предыдущую историю человечества,

Верится в это с трудом.

Но даже, там. В этом "Прекрасном Далеко", после прохождения сингулярности ПРЕДУПРЕЖДАЛИ об опасности ИИ ( Иссуственного Интелеллекта).

Зарождение ИИ, по оценкам некоторых умных людей, реально возможно, когда "вычислительная" возможность компьютеров превысит оную в человеке.

Мощность самого мощного суперкомпьютера Tianhe-2 33 петафлопса(33*10^15 флопс). Мощность мозга, по данным интернета, 10^16 операций в секунду. Получается, что Комп мощнее мозга. В чем ошибка и насколько все-таки мозг мощнее?

***

Количество нейронов в головном мозге человека примерно равно 100000000000 (ста миллиардам). Данные из разных источников немного различаются, но в целом картина схожа. Каждый из этих нейронов имеет от 7000 до 10000 синапсов. В среднем, через один синапс проходит 10 импульсов в секунду, т.е. мы имеем тактовую частоту 10 герц на одну синоптическую связь. А теперь занимательная математика: 100000000000 нейронов мы умножаем на 10000 их синоптических связей и умножаем все это на 10 герц. Мы получаем число с шестнадцатью нолями после единицы, а иначе 10^16.

***

Итак, вроде бы время уже настало. Пора бы уже бы ИИ просыпаться?!

Про неблагопоиятые и пессимистические сценарии мы уже поговорили. А что на счет хороших сценариев?

И вот, если мы возьмем самый оптимистический из них.

Мир не канул в пропасть ядерной войны или глобальной катастрофы. Люди и страны более или менее договорились между собой и вот создали ИИ.

ИИ - наше хорошее и любящее дитя. Он нас любит и заботится о нас.

Он развивается с непостижимой скоростью и старается сделать нашу жизнь максимально комфортной. Он/они управляет производствами и исследованиями/открытиями, которые люди уже не способны осознать.

Наступила эра "магических технологий".

Для нас, это магия, что хотим, то и получаем в мгновенье ока.

И вот здесь вспоминаем цитату Эйнштейна. Да и без нее, мы уже видим, как тупеет человечество и без ИИ.

Постепенно мы преврашаемся в стадо животных, которым лень даже думать.

По моему это реальная опастность. И было много фантастических рассказов в свое время, как раз предупреждающих об этом.

Я не социолог и не вижу истинных тенденций развития общества.

Может я и преувеличиваю. Или сгущаю краски.

Одно только допущение, что люди наконец-то договорились и перестали убивать друг друга ради прибыли или власти, уже наверное, вызывает смех.

Поживем. Увидим. И попробуем надеяться на лучшее.