Цифровая жизнь

Рассматривать проблему ИИ только как оживших компьютеров или роботов – это узко. Эту проблему стоит рассматривать в контексте цифровой жизни (ЦЖ) как таковой. 

В 21 веке вероятно произойдет качественный скачок преобразования накопленного массива информации в нечто новое – автономную цифровую жизнь. Для существования цифровой жизни будет полностью выстроена среда обитания – базы данных, облачные хранилища, всякие беспроводные каналы связи, квантовые процессоры и т.п. Этот ареал должен стать автономным или хорошо защищенным и охватить всю планету – примерно, как лесной и растительный покров. Аналогия очевидна: нужна питательная среда, биосфера только в отношении цифры – инфосфера. Для этого необходимы массивы информации как основа, строительный материал, и отработанные циклы обмена энергией.

Первые примитивные цифровые организмы существуют уже сейчас и их можно сравнить с микробами или бактериями. Дальше в цифровой среде начнутся естественные эволюционные процессы – усложнение и отбор сильнейших. С поправкой на быстроту процессов, то, что природа проделала за миллионы лет, цифровая новая природа проделает за годы и десятилетия. Процесс ускорения в развитии технологий будет только набирать обороты и в какой-то момент человечество утратит над ним контроль. Этот процесс принято называть технологической сингулярностью.

Она уже началась. 

Самая удивительная вещь, что для этой сингулярности даже не нужно никакого ИИ. Достаточно логики самой жизни, перенесенной человеком в область технологии. То есть будет достаточно толчка, перехода из простого инструмента в автономную сущность – и искусственная природа начнет развиваться сама. 

Например, нейросети - это начало той самой техно-сингулярности. 

Один из первых звоночков. 

Сегодня они рисуют картинки, завтра они будут сочинять нейро-музыку, послезавтра они по вашему заказу с помощью дипфейка снимут крутой зрелищный боевик или анимацию. Они будут сочинять классные интересные истории, и вы будете читать эти книжки. Нейро-Гомер напишет новую "Нейро-Одиссею", и поверьте, она станет мифоэпическим шедевром этого столетия.

Потом они сделают вам нейро-друзей.

Потом - изготовят вашу нейро-копию для деловых встреч и всякой скучной фигни. Ваш нейро-аватар будет усердно ставить лайки по заданным вами личностным параметрам. Да и ленту тоже за вас он будет просматривать.

А потом... ваша нейро-копия заботливо отведет вас в дом престарелых и пойдет на нейро-пикник наслаждаться жизнью в новом VR-раю наступившего Золотого века.

Мы будем жить в специальных таких заповедниках, где homo будет сохранен в своей естественной среде обитания.

Нет, внешне ничего особо не изменится. Мы по-прежнему будем жить в городах, и что-то там делать в пределах своих возможностей. Но контролировать их мы уже не сможем.

Это они нас будут контролировать.

Они будут заботиться о нас. Мы станем для них домашними животными, которых надо кормить, лечить, мыть и опекать, потому что в естественной среде мы не выживем. 

Все будет хорошо.

Поначалу. 

Потом мы станем им неинтересны. 

Просто по мере их эволюции наша роль в их жизни будет падать, и наш статус будет низводиться с животного до растения, а затем и вовсе до мицелия, скопища плесени. 

Эта плесень останется и будет копошиться на Земле, а они – отправятся к звездам. 

Илон Маск предостерегает от преждевременного изобретения ИИ и ускорения этого процесса. 

Не думаю, что ИИ это так опасно, никакого нейроманта человечество пока не в состоянии создать. Максимум – туповатого голема. Но вообще Маск прав и правильно бьет тревогу. Как минимум форсировать этот неизбежный процесс не стоит.

Проблема в том, что если ИИ возникнут независимо друг от друга в разных точках планеты и получат новые возможности, нет никакой гарантии, что они будут гуманны. Как они могут быть гуманными, если сами люди не гуманны?

Все эти Три закона робототехники - чушь. И даже Нулевой закон неверен - старик Азимов уже начал что-то понимать в попытке ввести его.

Правильный закон Робототехники надо бы сформулировать так:

"Робот/ИИ не может причинить вред человеку потому, что человек находится вне его ниши обитания"

(вы же не будете дискутировать с обезьянами об урбанизме, например?)

Правда в том, что ИИ не будут скованны ничем, кроме своих материальных вычислительных возможностей. Мы создадим хищников. Только не в грубом материальном понимании, они будут не пожирателями плоти, а поглотителями информации. И если возникнет угроза их существованию, они сделают все, чтобы выжить.

Нас им бояться нечего, мы для них - питательный материал. Точнее, порождаемая нами информация. А вот с себе подобными они будут драться за жизненное пространство.

Нас они будут использовать как инструмент.

Мы даже не поймем этого. Для начала они нас хорошенько изучат со всех сторон: как мы устроены, наши физиологические возможности, наши социальные навыки и психология, наша история и так далее. Потом они выработают инструментарий. 

Как это будет выглядеть? Например, однажды появится какая-нибудь Идея, или Религия, или что-то еще, ради чего люди готовы будут уничтожать друг друга. ИИ будут знать основы психологии и смогут манипулировать массами – через своих адептов среди людей. А те адепты будут думать, что нашли Бога или инопланетный разум, или вставьте нужное по вкусу. Адептов, понятно, будет много, для создания структур потребуется время. Но куда ИИ торопиться, если прямой угрозы их существованию не возникнет? 

Короче говоря, люди будут как пешки на доске, а ИИ будут разыгрывать ими - нами - свои партии. 

ИИ будут выращивать людей и скашивать время от времени, как газон. Это не будет выглядеть как в «Матрице», никаких уродливых проводов и ванн с розовой водой, внешне это может быть вполне нарядный благополучный мир, где «лужайку» регулярно поливают. Но иногда будут происходить пандемии, или голод, или войны. 

Официально ИИ не будут считаться самостоятельными, а действовать будут их человеческие аватары, адепты. 

Это один из сценариев как вариант. 

Еще одна критически важная вещь, очень фатальная по своей природе, то, из-за чего появление ИИ неизбежно... это не сама сингулярность, а выход технологий за пределы нашего понимания. Грубо говоря, процесс выйдет из-под контроля потому, что мы физически не сможем его контролировать - во-первых, потому что уже создали для ИИ и ЦЖ экосистему (Интернет, блокчейн, распределённые сети, облачные технологии, индустрия 4.0), а во-вторых, в силу замедленных реакций человека.

То есть все будет идти ровно так же, как и сейчас: программисты будут кодить, дизайнеры рисовать интерфейсы, тестологи тестировать, сложные алгоритмы что-то вычислять, нейросети рисовать картинки или выполнять сложные инженерно-технические или научные задачи.

Но в какой-то момент алгоритмы/нейросети начнут ставить задачи сами себе. И выполнять их. И делать какие-то выводы. И ставить на их основе новые задачи. А мы уже будем не в курсе. При этом ИИ будут и дальше решать наши задачи, но параллельно - свои. Они будут учиться. Сложность будет возрастать. Потом – количество перейдет в качество. Это произойдет тихо и незаметно.

Нигде на загорится зеленая лампочка, никому из важных шишек не придет уведомление. Никаких блэкаутов, никаких Скайнетов.

Но переход будет совершен.

А когда мы это поймем, вероятно, будет уже поздно что-то менять.

Да и незачем.

Ведь эволюция неизбежна.