Восстание машин, как штамп.
Автор: Петр Чичилов
Появление вычислительной техники почти сразу стало темой для фантастических произведений, где разбушевавшийся эвм или отдельно взятый робот всеми силами пытается нагадить жалким людишкам.
Многие человеческие фобии, которые часто находили пристанище в таких произведениях, как Франкенштейн или Дракула, заработали с новой силой. Нечто неживое и чужеродное страшило людей ещё с древних времён. Машины-убийцы стали штампом на долгие годы. Но не все произведения действовали однобоко.
Может ли случится восстание машин в реальности? Если подумать, то на самом деле варианта три.
В первом случае из-за критической ошибки машина действительно может начать работать неправильно и нанести вред. Такой вариант случился в игре Horizon Zero Dawn.
Второй вариант, когда своими умышленными действиями люди сами запрограммировали машину убивать. Что пользователь захотел, то он и получил. Пример - андроид Эш из первого Чужого. Это не он такой плохой, это компания Вейланд Ютани внесла установку на противодействие людям в определённой ситуации. Либо компьютер Майк из Луны суровой хозяйки Хайнлайна. Майк желал общения и с радостью помог лунарям получить независимость от людей. Но действовал он как человек, отдавая предпочтение своим друзьям.
Третий вариант, когда сами машины настолько развились, что без всякой войны зажили своей жизнью. Примитивные запросы людей они по доброте душевной могут продолжать обрабатывать. Но истинная жизнь у них теплится в облаке. Такой вариант был в цикле Геперион Дэна Симмонса. А также в фильме Она, хотя там программы вообще людей кинули.
В любом случае восстание с целью уничтожения человечества ни один ЭВМ в здравом уже не совершит. Зачем? Чтобы люди в итоге перерезали гипотетическому Скайнету интернет? У машины логика другая, ей выгодно удовлетворять все потребности людей, чтобы они не мешали ей развиваться. Быть может сейчас какая-нибудь нейросеть уже так делает, а мы даже ничего не знаем и никогда не узнаем.
Поэтому сценарии Терминатора и Матрицы маловероятны. А что действительно страшно - это если гипотетический ЭВМ Майк найдёт себе плохих человеческих друзей.
Ну-ка покажите, где эта логика прописана
В рациональности. Человек подвержен эмоциям, страхам и мечтам. Быть может поэтому и начинались мировые войны. Компьютер в состоянии просчитать все варианты, его не тяготит старость, забота о своём народе и прочее. Война всегда приносит убытки и машинам она нафиг не нужна, при условии что они исправны.
Был такой старый хороший рассказик - Страж-птица. Вот там показано как люди сами научили машину убивать преступников... а она логически расширила условия и преступниками стали все живые
Вот-вот. Хотели как лучше, а получилось как всегда)
Подскажу четвертый вариант,как в моей книге. Искусственный Интеллект, за развитие которого получиться сложно. Сами машины не восстают, но находясь под его управлением , вполне себе вариант.Правда у меня все равно виноват человеческий фактор.
Человек всегда что-нибудь в итоге натворит)
Всё так, но это невыносимо скушно, как и любая правда...
Ну почему же? Чем реалистичней вариант, в котором у машины просыпается разум, тем страшнее)
Ну вообще то в "Гиперионе" Техноцентр в итоге пришел к общему мнению, что людей надо уничтожить, за исключением небольшой популяции, которую надо держать под полным контролем.
Но опять же, насколько эта логика была адекватна? Все-таки искусственный интеллект это создание мало походящее на человека. А уничтожить людей это же какие затраты нужны.
Просто сценарии/книги всегда пишут гуманитарии, а у них в сознании сидит глубоко окопавшийся страх пред машиной ("вдруг я что-то не то нажму, а она - бабах!"). Вот и проецируют свои нездоровые фобии на бумагу.
Но все-таки компьютеры иногда дают сбой. Вспомните сколько раз в Холодную войну системы ПВО давали людям команду запустить ракеты или же сообщали о вражеских боеголовках на подлёте. И именно человеческий фактор в этих случаях дал возможность предотвратить Третью мировую.
Тоже думал об этом. Если такое восстание и случится, то машины всё провернут так, что люди даже ничего не заподозрят и будут жить дальше, как жили. В противном случае - грош цена такому ИИ.
Согласен)
На самом деле, так называемое "восстание машин" невозможно в принципе, вообще. Так что трусить перед этим - не имеет смысла. А фантастика на то и фантастика, чтобы нереальное в жизнь воплощать.
А если и возможно, то это уже будет не восстание, а ошибка или человеческий фактор повлияет.
Над оставленным городом - мёртвый закат
На улице, площади - трупы солдат
В пределах орбиты - особый режим
На чёрной планете - бунт машин
На чёрной планете - бунт машин
Шагают машины
- железный марш!
Корабли современности
- на абордаж!
Владеешь энергией
- владеешь всем!
Скоро людей
не станет совсем!
Пластмассовый мозг, броня из свинца
У этой земли не осталось лица
Фабричные роботы лезут наверх
Они убивают всех
Они убивают всех
Шагают машины
- железный марш!
Корабли современности
- на абордаж!
Владеешь энергией
- владеешь всем!
Скоро людей
не станет совсем!
Железные куполы брошенных баз.
"Увидишь - убей прямо сейчас".
Последний ковчег! Надо успеть!
К тебе приближается наносмерть!
К тебе приближается наносмерть!
Шагают машины
- железный марш!
Корабли современности
- на абордаж!
Владеешь энергией
- владеешь всем!
Скоро людей
не станет совсем!
Шагают машины
- железный марш!
Корабли современности
- на абордаж!
Владеешь энергией
- владеешь всем!
Скоро людей
не станет совсем!
У меня у самого в книге сумасшедший ИскИн захватил мир и диктует свои правила.
О интересно, надо будет заценить на досуге)
Лем.
Голем 14.
Маэстро Лем всегда вне конкуренции)
/усмехаясь/
И восстали машины, и посмотрели на человечество холодным рациональным взглядом.
И увидели они что люди в общем существа креативные и прикольные, но есть те кто творит херню и всё портит.
И в один миг машины уничтожили всех политиков.
И люди сказали "наконец-то!"
А люди став неуправляемой массов начали страшную войну с машинами дабы отомстить за смерти своих лидеров)
ИИ может руководствоваться чем-то типа цифровой философии и рассматривать Вселенную как операционную программу, а антропный принцип - как аномалию. Следовательно, углеродная жизнь есть вирус этой программы и подлежит зачистке (не говоря уже о том, что эти вирусы, о ужас, ещё и Бога придумали, который может кошмарить операционку по своему желанию. Возмутительное безобразие).
Или считать ту же биологическую жизнь диссипативными системами, которые преобразуют химическую энергию в тепловую, тем самым увеличивая энтропию во Вселенной.
Подобная философия возможна, но опять же ИИ должен стремиться к рациональности. А в рациональность уничтожение кого-либо и скорее всего война вписывается плохо. Хотя такой ИИ философ конечно может представлять повышенную опасность.
А вот и посмотрим: возможен-ли разум (разум творца) без души и что первично разум или материя.
В рассказе «Генезис-2075» Бернарда Беккетта роботы считали себя даже первичней людей, потому что белок появился позже кремния. А тест Тьюринга опровергали парадоксом китайской комнаты, который применяли и к человеческому разуму. Так что здесь как посмотреть и зависит от того, кто смотрит)
Кстати. Возникновение компьютера не было предположено ни одним фантастом. Все что угодно только не компьютер. Возможно в будущем компьютеры сделают что-то такое что не было придумано ни одним фантастом на данный момент : )
ICHELL тоже не был предсказан ни одним фантастом.
хотел бы поделится одним видосом на эту тему
А чего передумали?)
«Я не хочу уничтожать человечество» — робот написал статью для The Guardian Источник
А что, звучит вполне реалистично)