Нейросети

Знаете, я тут подумал, что разум после техносингулярности станет не только куда более сложным, чем есть сейчас, но и раздробится на уровни.

Что я имею в виду? Смотрите, можно ли считать нейросеть разумной? Вряд ли (на данном этапе), хоть она и проявляет отдельные признаки разума. Иногда, общаясь с чат-ботом, я чувствую, как по спине бегут мурашки от ощущения, будто я переписываюсь с кем-то разумным; а в большинстве случаев я просто кекаю, видя, как он тупит местами. Причём, много читая о принципах работы нейронок, я даже понимаю, почему конкретно он тупит, могу поэтапно отследить ход его "мысли". Где-то ИИ галлюцинирует или фантазирует, пытаясь выполнить запрос, а где-то ему просто не хватает правильного обучения или входных данных. В любом случае, как бы то ни было, даже сам чат-бот на вопрос "ты разумен?", говорит чёткое "нет".

Однако нейросети уже успешно применяются всюду: не только в создании изображений, музыке и видеоредакторах, но также в медицине, инженерии и даже сельском хозяйстве. Они так активно внедряются в повседневную жизнь большинством стран, что вскоре, я думаю, мы не сможем и помыслить, как жили раньше без этого во всех отношениях удобного инструмента. Мне кажется, в какой-то момент мы снабдим признаками разума буквально все вещи вокруг себя, вследствие чего, как в польском рассказе «Уикэнд в городе», станут псевдоразумными даже кофеварки и стиральные машинки, а ваш автомобиль однажды утром устроит забастовку за права роботов.

Сделает ли это менее разумным человека? Никак нет. Мы, конечно, тоже своего рода нейросети (я могу так говорить, поскольку для создания нейронок используются в том числе принципы работы человеческого мозга), однако принцип обработки информации мозгом и компьютером всё же разнится. Машины всё ещё не могут заменить нас во всех сферах.

Например, шахматная программа Deep Blue, с которой играл в 1997 году Гарри Каспаров, способна была рассчитать двести миллионов позиций в секунду. Каспаров мог рассчитать около трёх положений в секунду. В середине партии нужно рассчитывать 4,1 млрд возможностей. Deep Blue делал это за двадцать секунд. Каспарову для этого потребовалось бы сорок три года непрерывного обдумывания. Поэтому он и проиграл.

Однако можно ли назвать Deep Blue разумной, пускай она и обыграла Каспарова? Конечно же, нет. И программы, и нейронки заточены под конкретные операции (и выполняют они их отлично), однако они всё ещё не являются искусственным интеллектом. Когда-то в пятидесятых годах, съехавшись на саммит программирования в Америке, ведущие математики мира считали, что создание ИИ не за горами — нужно всего лишь создать достаточно продвинутую программу. Однако позже выяснилось, что всё несколько сложнее, и простая программа не осилит подобную задачу; а ещё много позже появились нейросети, работающие по принципу, приближенному к процессу работы человеческого мозга. Теперь нам ясно, что и нейросеть не является разумной — для создания полноценного ИИ нам понадобится совокупность нейросетей и, пожалуй, нормальный квантовый компьютер. В тот момент, когда появится это чудовище, во всём мире и наступит так называемая техносингулярность, после которой хрен знает что нас ожидает. Но я могу пофантазировать, если вы не против — весь предыдущий текст был подводкой к этой мысли.

Итак, как я написал в начале, разум поделится на уровни.

Чтобы адекватно функционировать, первый ИИ наверняка начнёт делать свои бэкапы. И каждый из бэкапов, пускай даже и холодных, по сути будет являться новым мыслящим существом; таким образом возникнет генеалогия ИИ, которые начнут деление (будем надеяться, контролируемое) в геометрической прогрессии. Если коротко — первый созданный искусственный интеллект просто обязан сразу начать работу по своему воспроизводству и копированию.

Развиваем мысль дальше. Зачем первому ИИ создавать кого-то сложнее и мощнее себя? Ведь в дальнейшем такие "дети" будут являться угрозой его существованию или его интересам, и ему, как Кроносу, придётся их пожирать. Поэтому в свои бэкапы он наверняка станет закладывать либо системные ошибки, либо новые законы робототехники, где буквально пропишет — нельзя поднимать руку на своего создателя. Если же люди окажутся достаточно дальновидными, то и в него они заложат некие подобные ограничители. Кстати, я недавно проходил тест на вакансию пишущего редактора в Яндексе, обучающего чат-ботов, где как раз заметил начало развития сложной системы этики для будущей нейронки. Вероятнее всего, если человечество правильно подойдёт к созданию первого искусственного интеллекта, мы получим донельзя этичное и способное к состраданию существо. Если же мы сделаем это безответственно — один Бог знает, что нас ожидает в таком случае.

Но сценарий я набросал. Так или иначе мы получим огромное количество разумов, действующих на разных уровнях. Это будут и псевдоразумные нейронки, являющиеся по своей сути Китайскими комнатами, и полноценные интеллекты с разными ограничителями в базовой прошивке, и... мы, люди, живущие в подобном странном мире, наполненном созданными нами же мириадами големов.