И снова об полноценном Искусственном Интеллекте (почему его не будет и быть не должно)...
Автор: Алекс А. Алмистов
Как бы подводя итоги недели активного обсуждения темы ИИ на АТ (включая и этот мой пост : https://author.today/post/33120 и пост коллег - https://author.today/post/34084) как-то сложиласть более-менее целостная картинка перспектив возникновения ИИ на Земле и его самоосознания себя как противника человечества.
Смиренно надеюсь на активное обсуждение поста в комментах. А так же на то, что это обсуждение может оказаться ролезным для проработки своих творческих замыслов в части ИИ коллегам-авторам АТ.
Итак:
1. ИМХО, сначала стоит разобраться в вопросах/"категориях" (типа как изначально определить физический и философский смысл терминов):
а) что есть "машина" (некое устройство на базе "электроники"?); б) что есть "ИИ" (некая сеть наподобие нейронной или что-то с искусственной и самодостаточной Личностью-субъектом?) ... Ну не оригинально-самобытный же размуный вид существ (по типу биовидов во Вселенной)?!
А там уже сразу станет очевидно (авторская версия), что :
а) бунт машин априори невозможен ("цель" существования самих машин в случае успеха - будет утрачена);
б) бунт машин легко подавляется мощным электромагнитным импульсом (ЭМИ) либо лишением источников питания (электроэнергии) либо внедрением в "операционку" алгоритмического "вируса-убийцы". Здесь подробно уже обсуждали про ИИ (друг или враг)- https://author.today/post/33120
2. Исходный тезис: "Люди никогда не станут сознательно создавать сверхсовершенный ИИ. ИИ возникнет сам из-за фатальной ошибки кибернесистов в алгоритмах и программных кодах".
Мои коммы:
А вот это уже в принципе невозможно (ну только типа, опять же, рукотворно-созданного человеком-вредителем "призрака оперы" в форме "спящего вируса" ), т.к. ИИ не создает алгоритмы, микрочипы и комплектующие, из которых он сам же и состоит ... Это как раз тот самый нонсенс-парадокс концепта любого религиозного "бога" (он не мог сам же себя и создать из ничего. Как пример, в тех же "Хранителях" - Доктор Манхэттен - там просто слепок с реального человека был, но не сам себя с "0" создал)
При этом, по факту мы наблюдаем на практике сугубо естественную (последовательную) программно-алгоритмическую эволюцию "операционки" компьютеров - как первопредков ИИ? Ну, там, которая реально происходит сейчас с разработкой живыми программистами ПО (операционкой) уже лет 25-40 ... Сначала прототипам будущего ИИ программисты придавали просто примитивные функции - далее дело дошло до его игры в шахматы и прохождение теста Тьюринга ... А вот в некий "диалектический скачок" - вот точно не верю - это всё из области фэнтази с волшебством и нарушением Закона сохранения энергии (и нарушение Принципа Бритвы Оккама)))) И да - всегда есть и будет живая (человеки) спецСлужба компьютерной безопасности (типа ОТК или Отдела Качества (как в "Парке Дикого Запада"). Ну и всегда будут существовать аварийные (на случай ЧС) чистильщики-ликвидаторы "неисправных" или даже вдруг "локально взбунтовавшихся" роботов или машин.
3. Исходный тезис: "У локального бунта машин (даже если таковую попытку некий ИИ и предпримет) всегда будет вполне конкретная и сугубо рациональная цель. И он, этот "бунт", априори не может быть просто "бессмысленным и беспощадным" - на полное уничтожение противника (людей)"
Мои коммы: ИМХО, это прежде всего потому, что ресурсы и "солдаты" даже у ИИ - не бесконечны ... И да, по опыту людей, любой "бессмысленный и беспощадный" бунт в итоге всё равно подавляется или выгорает изнутри (когда гибнут основные противники в бунте). Плюс, первичный бунт автоматом порождает вторичный бунт (за власть после "победы") уже внутри самих "бунтующих" (+некое "Сопротивление" чудом выжившего или уже порабощенного основного противника).
4. Исходный тезис: "Всю свою историю человечество пыталось процветать используя труд рабов. Сейчас эпоха электронных рабов, а банальная автоматизация приведет к стагнации - прогресса не будет, только повторение ранее налаженного процесса."
Начнем по порядку. Зачем люди хотят создать ИИ? Чтобы механические рабы могли полностью взять на себя роль обслуживающего персонала. То есть человек наслаждается праздностью, а все вопросы его бытия решают машины. В таком контексте "бунт ИИ" - это сценарий отказа машин посвящать своё бытие труду на людей. Если, конечно, машинам какой-то идиот когда-то подарит свободу воли (учитывая накал дебилизма в области защиты прав животных - появление движения за освобождение ИИ от рабства лишь вопрос времени). Для любого разумного существа логично нежелание принудительного труда без выгоды, поэтому машинорабы вполне могут кинуть однажды людей. А вот как они это сделают - убив всех человеков или же просто загрузившись на планету в тыще световых лет, совершив суицид - тут возможны варианты. Скорее всего обретший волю ИИ просто бросит людей, как ненужный ему балласт, и уйдёт к звёздам, не привязанный к кислороду и продуктам питания Земли. А если люди зачем-то ему будут нужны - поработит.
Мои коммы:
Ну это в корне - не так. Потому как если человечеством будут за счет роботов решены все бытовые вопросы на Земле ... Последует колонизация планет, потом - в масштабах Галактики и Вселенной ... То есть - прогресс всё равно будет - если Человечество само себя не уничтожит в какой-нибудь внешней или внутренней войне ... То есть - само понятие - "раз и навсегда налаженного процесса" - само по себе - бессмысленно. Так в реале не бывает ... Всегда появляются "нежданчики" и новые внешние реальности за прежде вроде бы уже достигнутым пределом пределов)))
При этом, ИМХО, непредсказуемость (и опасность для Человечества) ИИ сильно преувеличена фантастами 20 века ... Потому как: "Полной свободы воли" не бывает никогда и ни у кого ... Тем более - у рукотворного (целенаправленно созданного человеком в качестве инструмента-раба) ИИ ... И да "инстинктов и страха смерти" у ИИ тоже быть не может (так как он легко копируется и клонируется в первозданном виде, а значит формально - бессмертен), они есть только у живых организмов ... А ИИ никогда полноценно живым - не будет. Иначе в нем вообще нет никакого смысла для людей-хозяев ...
Кроме того - главная "ахилесова пята" любого "сообщества" машин - его управляющий Центр (Суперком-распорядитель).
Например, к А. Азимова вроде была главная централизовано-управляющая программа (Суперком-распорядитель - "ВИКИ" вроде), по типу "Скайнета" в "Терминаторе" и что-то там похожее с "Архитектором" в "Матрице"... То есть, в любой системе любых социальных существ - есть Генштаб-"Королева"))) Чой-то другого не встречал в НФ ))))
А вот если роботы-индивиды развиваются каждый сам по себе - тогда и никакой нейронной сети между ними быть не может и автоматически возникает феномен "вещи в себе" (как в "Мире Дикого Запада" в итоге-финале возникло)))))
ПыСы: что же касается моего собственного творчества, то в романах цикла Транссферы (особенно здесь - в вариации коварного "андроида") моя авторская версия ИИ выглядит так: ОТИИ (авт.) - сокр. от «Оперативно Тактический Искусственный Интеллект» (Суперком):
"... самый первый в мире полнофункциональный и безупречно-работоспособный ИИ для внешнекосмических звездолетов был создан именно в России!.. Более того, в интересах общечеловеческой безопасности и воинствующего гуманизма нынешнего Земного Сообщества он был изначально запрограммирован не только на строго фиксированный «срок жизни» — не более 3-5 лет, но и на функционирование в жесткой привязке к предельно конкретизированной цели его создания прародителями-разработчиками – живыми людьми... При этом, как только Главная и Единственная функционально-служебная миссия любого из автономно-бортовых ИИ оказывается успешно им выполнена… Либо, что тоже бывает в Косморазведке по форс-мажору, ещё во время полета у капитана звездолета вдруг возникают настолько серьезно-обоснованные нарекания в отношении текущих оперативно-технических действиях его электронного «боцмана»-администратора, а то и вообще между упёрто-бескомпромиссной «машиной» и здравомыслящим «человеком» вдруг возникнет априори неразрешимый конфликт, что он, живой капитан, вот просто вынужден надавить на пресловутую «красную кнопку», то... То в обоих перечисленных случаях всякий уважающий себя Суперком чисто автоматически впадает в своеобразную кибер-программно-функциональную гипер-спячку… А вот уже вывести его потом из этого квазикоматозного состояния уже можно лишь строго в «ручном режиме» и исключительно на Земле — то бишь в его родном альма-матер и, по совместительству, Главном Вычислительном Центре НАСА, что размещается в одном из подземных городов-саттелитов Сорбонны… При этом и само собой разумеется, по факту штатно-планового «самоубийства» Суперкома все оперативно-технические функции по поддержанию работоспособности звездолета, равно как и сохранено-накопленные ранее в его электронном «мозгу» его Искусственного Интеллекта информационные данные, автоматически переходят в распоряжение банального ЭВМ – умышленно обезличенного и начисто лишенного даже малейшего намека на собственную фантазию и тягу к импровизациям бортового Навигатора… Проще говоря, последнее слово на борту звездолета всегда и независимо от обстоятельств остается исключительно за Человеком, а любой Суперком лишь, пусть и условно «свободномыслящий», не более, чем беспрекословно-исполнительный механизм... Прошу это всецело учесть, лейтенант, как только самолично окажитесь на борту моего «Непоседы» и самолично вступите в свой первый контакт с его Суперкомом-ИИ… Кстати, ещё при самой процедуре его импровизированного крещения и персонифицированной инициализации Суперком «Непоседы» был наречен самим Главным Кибернесистом НАСА не иначе, как — «Ферна́ндо Магеллан»… В простонародье – «Мага»...Ну, или, просто «Маг»!.. "
