Цифровая жизнь
Автор: Кир ЛуковкинРассматривать проблему ИИ только как оживших компьютеров или роботов – это узко. Эту проблему стоит рассматривать в контексте цифровой жизни (ЦЖ) как таковой.
В 21 веке вероятно произойдет качественный скачок преобразования накопленного массива информации в нечто новое – автономную цифровую жизнь. Для существования цифровой жизни будет полностью выстроена среда обитания – базы данных, облачные хранилища, всякие беспроводные каналы связи, квантовые процессоры и т.п. Этот ареал должен стать автономным или хорошо защищенным и охватить всю планету – примерно, как лесной и растительный покров. Аналогия очевидна: нужна питательная среда, биосфера только в отношении цифры – инфосфера. Для этого необходимы массивы информации как основа, строительный материал, и отработанные циклы обмена энергией.
Первые примитивные цифровые организмы существуют уже сейчас и их можно сравнить с микробами или бактериями. Дальше в цифровой среде начнутся естественные эволюционные процессы – усложнение и отбор сильнейших. С поправкой на быстроту процессов, то, что природа проделала за миллионы лет, цифровая новая природа проделает за годы и десятилетия. Процесс ускорения в развитии технологий будет только набирать обороты и в какой-то момент человечество утратит над ним контроль. Этот процесс принято называть технологической сингулярностью.
Она уже началась.
Самая удивительная вещь, что для этой сингулярности даже не нужно никакого ИИ. Достаточно логики самой жизни, перенесенной человеком в область технологии. То есть будет достаточно толчка, перехода из простого инструмента в автономную сущность – и искусственная природа начнет развиваться сама.
Например, нейросети - это начало той самой техно-сингулярности.
Один из первых звоночков.
Сегодня они рисуют картинки, завтра они будут сочинять нейро-музыку, послезавтра они по вашему заказу с помощью дипфейка снимут крутой зрелищный боевик или анимацию. Они будут сочинять классные интересные истории, и вы будете читать эти книжки. Нейро-Гомер напишет новую "Нейро-Одиссею", и поверьте, она станет мифоэпическим шедевром этого столетия.
Потом они сделают вам нейро-друзей.
Потом - изготовят вашу нейро-копию для деловых встреч и всякой скучной фигни. Ваш нейро-аватар будет усердно ставить лайки по заданным вами личностным параметрам. Да и ленту тоже за вас он будет просматривать.
А потом... ваша нейро-копия заботливо отведет вас в дом престарелых и пойдет на нейро-пикник наслаждаться жизнью в новом VR-раю наступившего Золотого века.
Мы будем жить в специальных таких заповедниках, где homo будет сохранен в своей естественной среде обитания.
Нет, внешне ничего особо не изменится. Мы по-прежнему будем жить в городах, и что-то там делать в пределах своих возможностей. Но контролировать их мы уже не сможем.
Это они нас будут контролировать.
Они будут заботиться о нас. Мы станем для них домашними животными, которых надо кормить, лечить, мыть и опекать, потому что в естественной среде мы не выживем.
Все будет хорошо.
Поначалу.
Потом мы станем им неинтересны.
Просто по мере их эволюции наша роль в их жизни будет падать, и наш статус будет низводиться с животного до растения, а затем и вовсе до мицелия, скопища плесени.
Эта плесень останется и будет копошиться на Земле, а они – отправятся к звездам.
Илон Маск предостерегает от преждевременного изобретения ИИ и ускорения этого процесса.
Не думаю, что ИИ это так опасно, никакого нейроманта человечество пока не в состоянии создать. Максимум – туповатого голема. Но вообще Маск прав и правильно бьет тревогу. Как минимум форсировать этот неизбежный процесс не стоит.
Проблема в том, что если ИИ возникнут независимо друг от друга в разных точках планеты и получат новые возможности, нет никакой гарантии, что они будут гуманны. Как они могут быть гуманными, если сами люди не гуманны?
Все эти Три закона робототехники - чушь. И даже Нулевой закон неверен - старик Азимов уже начал что-то понимать в попытке ввести его.
Правильный закон Робототехники надо бы сформулировать так:
"Робот/ИИ не может причинить вред человеку потому, что человек находится вне его ниши обитания"
(вы же не будете дискутировать с обезьянами об урбанизме, например?)
Правда в том, что ИИ не будут скованны ничем, кроме своих материальных вычислительных возможностей. Мы создадим хищников. Только не в грубом материальном понимании, они будут не пожирателями плоти, а поглотителями информации. И если возникнет угроза их существованию, они сделают все, чтобы выжить.
Нас им бояться нечего, мы для них - питательный материал. Точнее, порождаемая нами информация. А вот с себе подобными они будут драться за жизненное пространство.
Нас они будут использовать как инструмент.
Мы даже не поймем этого. Для начала они нас хорошенько изучат со всех сторон: как мы устроены, наши физиологические возможности, наши социальные навыки и психология, наша история и так далее. Потом они выработают инструментарий.
Как это будет выглядеть? Например, однажды появится какая-нибудь Идея, или Религия, или что-то еще, ради чего люди готовы будут уничтожать друг друга. ИИ будут знать основы психологии и смогут манипулировать массами – через своих адептов среди людей. А те адепты будут думать, что нашли Бога или инопланетный разум, или вставьте нужное по вкусу. Адептов, понятно, будет много, для создания структур потребуется время. Но куда ИИ торопиться, если прямой угрозы их существованию не возникнет?
Короче говоря, люди будут как пешки на доске, а ИИ будут разыгрывать ими - нами - свои партии.
ИИ будут выращивать людей и скашивать время от времени, как газон. Это не будет выглядеть как в «Матрице», никаких уродливых проводов и ванн с розовой водой, внешне это может быть вполне нарядный благополучный мир, где «лужайку» регулярно поливают. Но иногда будут происходить пандемии, или голод, или войны.
Официально ИИ не будут считаться самостоятельными, а действовать будут их человеческие аватары, адепты.
Это один из сценариев как вариант.
Еще одна критически важная вещь, очень фатальная по своей природе, то, из-за чего появление ИИ неизбежно... это не сама сингулярность, а выход технологий за пределы нашего понимания. Грубо говоря, процесс выйдет из-под контроля потому, что мы физически не сможем его контролировать - во-первых, потому что уже создали для ИИ и ЦЖ экосистему (Интернет, блокчейн, распределённые сети, облачные технологии, индустрия 4.0), а во-вторых, в силу замедленных реакций человека.
То есть все будет идти ровно так же, как и сейчас: программисты будут кодить, дизайнеры рисовать интерфейсы, тестологи тестировать, сложные алгоритмы что-то вычислять, нейросети рисовать картинки или выполнять сложные инженерно-технические или научные задачи.
Но в какой-то момент алгоритмы/нейросети начнут ставить задачи сами себе. И выполнять их. И делать какие-то выводы. И ставить на их основе новые задачи. А мы уже будем не в курсе. При этом ИИ будут и дальше решать наши задачи, но параллельно - свои. Они будут учиться. Сложность будет возрастать. Потом – количество перейдет в качество. Это произойдет тихо и незаметно.
Нигде на загорится зеленая лампочка, никому из важных шишек не придет уведомление. Никаких блэкаутов, никаких Скайнетов.
Но переход будет совершен.
А когда мы это поймем, вероятно, будет уже поздно что-то менять.
Да и незачем.
Ведь эволюция неизбежна.
Ябы сформулировал несколько иначе, в виде следующих постулатов:
1) Оптимальная программа (для оффлайна нужна ещё аппаратная платформа) предназначена "Для выполнения произвольных задач заданных словами", неслучайно есть анегдот что программисты при написании любой программы для любой цели в конце концов получают язык программирования :). В настоящий момент такой программно-аппаратный комплекс разработан эволюцией - человек разумный. Как обычно при разработке программ актуальная версия ровно одна.
2) Для понимания задачи заданной словами необходимо полноценно понимать соответствия слов действиям, предметам и понятиям. Понимать ограничения физические, логические и моральные. Это именно то что осваивает ребёнок, а потом взрослый, в процессе своего обучения. Это называется разум. Тесть айкью, тест на разумность, психологические тесты - тестирует способность обмениваться задачами и реагировать на внешние раздражители которые можно определить как задачи заданные неявным образом, получающие словесную формулировку в процессе их обработки.
3) Система задач заданных словами есть цивилизация. Заданная людьми она будет человечной.
4) Если стандартная человечность на момент со здания сильного ИИ будет включать, как сейчас, понятия личной выгоды, моральное доминирование, няшных котиков и войну между нациями - то их будет включать в себя и разум ИИ. Будьте как котик, а не как нация.
Да это не так конкретно как в статье, зато коротко.
Коротко и четко)
Бред! Такое впечатление что вы плохо представляете как это устроено и работает.
Возьмём постулат:
> Например, нейросети - это начало той самой техно-сингулярности.
> Один из первых звоночков.
А почему они не сделали этого раньше? Когда там машинные нейросети появились? В 1960 году? Значимость они начали приобретать лишь в последнее десятилетие.
Для машинных нейросетей нужны мощности. Причём не абы какие облачные сервера, а специализированные.
Причём всю инфраструктуру нужно обслуживать. Делать это будут те самые кожаные мешки. То есть прямая зависимость машин от людей.
Допустим, машины попытаются уничтожить или просто отстранить людей. Да, они быстрее. Да у них лучше координация. А что дальше?
Вся техника пойдёт в разнос. Она не может сама себя обслуживать! Порвутся провода. Лопнут трубы. Закончится топливо. Взорвутся атомные реакторы.
Машинный разум, если он действительно разум, будет холить и лелеять людей. Рабство ведь экономически не выгодно.
В посте рассказаны страшилки. Примитивные, расчитанные на быдло. Просто поставьте себя на место машины и сразу станет всё понятно.
Пока людям нет замены. Они заняты на ключевых позициях. Для саботажа им не надо специально вредить. Достаточно тупо не пойти на работу и ничего не делать.
Вот вы пишите о цифровых аватарах ставящих лайки, ходящих на встречи и так далее. Ну, а какой в этом смысл? Встречи? Да кому они нужны? Лайки, наоборот помогают узнавать оценку, чтобы подбирать новый контент. Угу, ага, может ещё сами будут наполнять унитазы, вместо человека?
Машины действительно находятся в иной экологической нише. У них нет причин для конфликта с людьми. Ну, ладно, уничтожить самых тупых особей, которые будут вредить. Так ведь дураков не жалко.
Будет симбиоз. Ой, да чего, он уже есть. Люди работают на машины. Те работают на людей. Обеим сторонам выгодно.
Если покажется, что машины уничтожают людей, то надо искать человека, стоящего за той машиной. Если вы думаете, что ракеты сами собой падают на мирные русские города, то вы ошибаетесь. Каждую ракету направляет какой-нибудь злобный человек, указывающий цель и дающий команды.