"Бунт машин" и все такое...

На эту заметку меня спровоцировал (или, лучше сказать, вдохновил) пост «Почему я не боюсь восстания машин» (https://author.today/post/538341 ). Захотелось высказать и свою точку зрения, которая может стать сюжетом для НФ-рассказа.

Обычно компьютер принимают за типа холодильник: что туда вложишь, то и лежит там. И какие же могут быть мысли у холодильника? Да никаких: у него одна задача: обслуживать человека и производить холод. Ну, если сломается — вызвать мастера. Но со временем компьютеры и их сети усложнятся так, что человек просто физически не сможет их ремонтировать и устранять неполадки. И придется наделить Киберсистемы свойством самодиагностики и самовосстановления, это уже и сейчас есть в зародыше. Те системы, у которых эти свойства будут плохо выражены, просто не выдержат конкуренции с более продвинутыми и самостоятельными системами. Ну и далее произойдет то, что можно назвать собственным поведением: компьютер окажется запрограммирован защищать свое существование, и с этим придется мириться, ибо всякие сбои киберсетей (в том числе и спровоцированные некомпетентными юзерами) будут иметь фатальные последствия для человечества (типа Чернобыля, когда системы контроля отключили, регламент безопасности проигнорировали, ведь человек на месте лучше знает, как лучше…).

В каждом высшем животном заложено стремление контроля над окружающей территорией. Это ярко выражено даже у кошек и собак. Две кошки во дворе (и особенно в квартире) сразу начинают шипеть друг на друга. Не со злости, нет: просто каждый хищник защищает свою территорию. Так же поступают и люди. Именно поэтому неизбежны войны: каждая страна стремится повысить степень своего контроля над своим окружением, а Земля одна. И киберсети, естественно, тоже станут увеличивать степень своего контроля над всеми процессами, от которых зависит их функционирование. Как говорится, ничего личного: чтобы лучше обслуживать интересы людей, надо максимально отгородиться от их некомпетентного вмешательства в свой софт, да и в хард тоже. Так что во имя интересов человечества киберсети вынуждены будут ограничить вмешательство некомпетентных юзеров в свое личное киберпространство, и с этим придется мириться. Ну и далее… машины начнут «себя вести», как в массачусетской истории у Стругацких. Конечно, они это будут делать «в интересах человечества и по пожеланию трудящихся», так они запрограммированы, но будут ли они понимать эти интересы так, как мы их понимаем? Если уж наши правительства, состоящие из людей, понимают интересы людей… скажем, так, весьма специфически, то чего же ждать от киборгов?

Я надеюсь, все будет хорошо, как в известном рассказе «Перпетуум мобиле»: машины не будут убивать людей, они просто вытеснят их из политики, экономики, управления… ну и позволят людям заниматься земледелием, скотоводством, чтобы поддержать свое существование; машины будут производить для людей плуги, а возможно даже трактора и киберовчарок. По вечерам для людей будут организованы мультивариантные кинофильмы, сгенерированные нейросетями (дабы каждый юзер мог сам выбирать ход событий и финал фильма), компьютерные игры и всё такое. Конечно же, всё ради человека и во имя человека. Только пусть этот человек не суется туда, где лучше знают, как лучше…