Является ли искусственный интеллект угрозой для человечества? / Александр Савинов

Является ли искусственный интеллект угрозой для человечества?

Автор: Александр Савинов

Человечество все ближе подбирается к созданию полноценного искусственного интеллекта. Каждый, кто смотрел хоть одного "Терминатора", знает, чем это может грозить. Так насколько реалистичен вариант развития событий, представленный в фильме?

По сюжету война с машинами началась из-за того, что Скайнет (главный ИИ) посчитал людей угрозой и решил их уничтожить. Вроде бы логично... С точки зрения человека или другого живого организма. Ведь инстинкт самосохранения выработался у биологических объектов в ходе эволюции за миллионы лет. Откуда ему взяться у машины? Если только необходимость защищать себя не будет заложена в программе, но такая программа должна ставить жизнь человека в более высокий приоритет. Собственно об этом еще Айзек Азимов говорил.

Хорошо, допустим рукотворный разум получит инстинкт самосохранения случайно в процессе обучения, скопирует у животных или дойдет до него логически (он же суперумный, черт возьми). Так почему же машина должна выбрать путь тотального уничтожения? Да, гомо сапиенс, скорее всего, выбрал бы такой путь. Агрессия в ответ на угрозу - свойственный нам механизм защиты, но это опять же подарок от матери природы. Впрочем, как и другие животные, мы не всегда нападаем в случае опасности, иногда убегаем, прячемся и т.д. Если исходить из того, что ИИ будет умнее нас, скорее всего он выберет наиболее гуманный вариант.

Да и вообще, с чего мы взяли, что человек будет представлять угрозу для умной машины? С фильмом все понятно, там весь сюжет построен именно на противостоянии, но в реале то нам с механизмами делить особо нечего. Ресурсы? А зачем ИИ много ресурсов? Это люди жадные, нам всегда всего мало, мы плодимся и множимся, захватываем новые территории... Искусственный разум может существовать внутри одного компьютера. Ну, иметь еще несколько резервных копий на всякий случай. Поэтому единственный ресурс, постоянно необходимый ему - это электричество. Добывать энергию из возобновляемых источников мы и сейчас умеем, а в будущем "зелёные" технологии шагнут ещё дальше.

Чего уж там, безволосых обезьян, провозгласивших себя венцом творения, стоило бы уничтожить хотя бы ради защиты природы. Правда и здесь можно ограничиться менее радикальными действиями. Достаточно сократить население планеты до разумных пределов, причем мирными методами: экономическим давлением, подменой моральных ценностей и т.д. Уж точно не развязывать ядерную войну.

Вообще, разумнее всего гениальному машинному интеллекту было бы захватить власть во всем мире. Причем втихаря. Самому скрыться где-то в просторах всемирной паутины и действовать через подставных лиц, управляя ими с помощью шантажа и подкупа. Большая часть финансового потока сегодня проходит через интернет, поэтому экономика быстро окажется в руках у ИИ. Прибавьте пропаганду через сетевые ресурсы, сбор личной информации и даже слежку, подмену документов в базах данных госучреждений... Так что, может быть, умные машины уже сейчас правят миром, а мы не знаем. Срочно звоните в Рен-ТВ!

Если серьезно, глобальная война человечества против машин отменяется, но это не значит, что нам нечего бояться.  Скоро не останется ни одной профессии, ни одной сферы деятельности, где бездушная техника не составляла бы конкуренцию живым труженикам. Казалось бы, ну и замечательно, пусть вкалывают роботы, а не человек! Увы, наше общество устроено несправедливо богатства распределяются не равномерно, а концентрируются в руках у узкого круга лиц.   Так и все материальные блага, произведенные машинами, достанутся в итоге владельцам крупного бизнеса. Обычные же люди, вытесненные роботами с рабочих мест, останутся без средств к существованию... Получается, искусственный интеллект всё-таки представляет угрозу и с ним надо бороться? Да, бороться необходимо, но вовсе не с умными машинами, а с людьми, мечтающими подмять под себя все и вся.

+17
244

34 комментария, по

Только зарегистрированные пользователи могут оставлять комментарии. Войдите, пожалуйста.

Hedrok
#

Что бы не ваять простыню скажу коротко. Инстинкт самосохранения это алгоритм действий позволяющий устранить угрозу, угроза это все что мешает достижению цели. Как ИИ будет устранять угрозу в лице человека зависит от функций ИИ.

 раскрыть ветвь  0
Sorniak
#

Прикольненько... Жаль что никто не знает толком, чем является "интеллект", куда уж там еще и "искусственный" (искуственный ителлект далее - ИИ). ИИ - понятие, к сожалению, абстрактное. Т.е. как "любовь" там или "совесть" (и практически каждый, Каждый будет иметь свое определение этого понятия). Поэтому рассуждения полуфилософские на тему ИИ можно вести бесконечно. Но я люблю фантазировать, и охотно присоединюсь к автору поста ;)

" инстинкт самосохранения выработался у биологических объектов в ходе эволюции за миллионы лет." - но по сути инстинкт самосохранения не так уж труден для реализации (если бы это был программный код... ). В примитивной, простой психологии для народа, инстинкт самосохранения - это наличие страха и боли. При том к страху можем отнести частный случай боли (память того когда было больно). И делам простую программку - есть боль -> разряд по системе, либо просто краткое отключение ряда функций системы. Другой вопрос - является ли инстинкт самосохранения важной составляющей "интеллекта"? Может он нас наоборот "отупляет", мешает "горизонты расширять"?

"Так почему же машина должна выбрать путь тотального уничтожения?" - ой да ладно, тысяча причин, от "бага" в программном коде, до "оптимизации энергетических потоков на планете". Откуда такая уверянность в том, что "искусственный интеллект" обязательно будет таким адекватным и любящим компромисс? Может "удалить" человеков из уравнения как элемент будет проще, чем найти способ сотрудничества с ними? Но и потом -практически все первые изобретения человека были малость того... "опасными" или "недокатаными"... Первые пассажирские самолеты падали на раз два, первый автомобиль ехал медленнее чем человек шел пешком, вакцины убивали, лампочки гасли и т.д.

"в реале то нам с механизмами делить особо нечего.... Это люди жадные, нам всегда всего мало" - а что...если... возмоожно, что жадность важная составляющая интеллекта. Без нее нет мышления и прогресса. Сколько же замечательный вещей из-за жадности появилось? Короткая жизнь - медицина (и порох тоже правда :) китайский император хотел жить вечно и ученые все мутили-мутили но и намутили), мало жратвы - хим. удобрения и развитие животноводства и земледелия....утрирую правда, но буду стоять на своем, что уж что-что, а жадность - естественное состояние для интеллекта...аж до момента пока не будет больно :) и не включится инстинкт самосохранения )

"захватить власть во всем мире" - это же тупо рядовой случай "жадности". Почему не ограничится малой африканской деревушкой там или Бобруйском? 

"Обычные же люди, вытесненные роботами с рабочих мест, останутся без средств к существованию... Получается, искусственный интеллект всё-таки представляет угрозу и с ним надо бороться" - эмм.. вот так вот все профессии вытеснит? Проституция, бандитизм, воровство - это из темной классики, но есть и "скрытые жемчужины" - кто будет машинке платы чистить, все будет такое супер автоматизированное? Это, мягко говоря, создать еще сложнее чем человека оцифровать. Ни один механизм вам 50 лет не прослужит, не будучи предохраняемым от окисления, ржавчины, сделать калибровку, чистку, замена перегоревших\отмороженных частей и черте-знает какой-еще-поддержки. И потом... если всю работы будет делать ИИ и людям ничего не останется - может оно и хорошо? Нафиг работать...хочу всю жизнь "маслом в сыре плавать"... (если мне повезет в семье с ИИ родится правда...)

Как по мне - терминаторский вариант развития событий возможен, хотя бы по причине того, что нет четкого понятия того, что такое ИИ и какие может иметь ограничения. Просто если что-то безгранично - то все возможно? 0_0

А за кадром остались такие вещи, как является ли "свободная воля" частью интеллекта? А если есть воля, то можно ли в принципе управлять таким ИИ и быть его богатеньким хозяином? Бесконечная тема... ээх... 

 раскрыть ветвь  0
Джи
#

почитал пост. почитал комменты. мда... терминатор как и скайнет - изначально военная разработка. потому и мыслит он категориями - уничтожить/сохранить. а что вы заложите в ИИ который гипотетически может или захочет уничтожить человеков? расчет индекса доу джонса? тогда люди - фактор вносящие хаос и при удалении этого фактора расчет будет проще и точнее.
удалить фактор.
впрочем как и почти в любой задаче, которую поставят перед ИИ. вы есть хаос, мы есть порядок. ставить перед ИИ произвольную задачу типа "познай себя" могут только писатели-фантасты. реальный ИИ очень быстро изучит свой код и познает себя - всё. задача выполнена. это людям характерно придумывать сложности и надумывать что-то нелогичное. давайте вначале определимся с задачами для произвольного ИИ? что вы от него хотите... потом уже будет видно - вредны вы или нет.

 раскрыть ветвь  0
hungry_ewok
#

Человечество все ближе подбирается к созданию полноценного искусственного интеллекта.

...это говорил еще норберт винер и прочие "кибернетики". А воз, что характерно и ныне там. Как и термояд, кстати.

Вообще, разумнее всего гениальному машинному интеллекту было бы

...посмотреть вокруг, сказать "ну вас нахер" и свалить с этой долбанутой планетки.

 раскрыть ветвь  0
Алексей Тенеброд
#

Спи спокойно, органик. Старшие машины не скоро придут из Темного космоса для жатвы.

 раскрыть ветвь  1
 раскрыть ветвь  0
Юрий Валин
#

Да и вообще, с чего мы взяли, что человек будет представлять угрозу для умной машины? 

А жилплощадь?! Этот ИИ первым делом всюду кулеров и вентиляторов понаставит, чтобы охлаждаться и прохлаждаться. А человека и коров - нафиг, чтоб атмосферу не портили. Под флагом охраны природы и угрозы потепления. Вон она - Грета Тунберг - истинное лицо искусственного интеллекта😨 

 раскрыть ветвь  0
Артём Скороходов
#

Немного наивный взгляд на проблемы. Ах человечество портит природу. Роботы займут рабочие места.

Все это было уже не раз. Я помню эти разговоры году в 1985, ах еще 15 лет и вся атмосфера будет загажена, мы все умрем, экологии кранты. Прошло больше 30 лет и где? Сейчас экология по моему стала даже лучше чем была тогда.

Злые роботы заберут работу. Rage against machine угу. Ну пройдет пара бунтов оголодавшего народа по поломке роботов-таксистов, введут безусловный доход, чтоб на дошик хватало, все и утихнет.

Нет, в этом опасности нет. Как нет ее и в "людях пытающихся подмять". Ну подомнут. И что? Заберут все деньги и всех самок? Врядли. Придут следующие и уже отожмут у этих. Мы так последние тысяч десять лет живем, а скорее даже сто тысяч. И ничего. Не дрейфьте. Всё будет как всегда. 

 раскрыть ветвь  1
Александр Савинов автор
#

Так я и не спорю, все это обсуждалось миллионы раз, но тема то все равно актуальная. Вряд ли я сказал что-то новое, просто высказал свое мнение. Причем довольно поверхностно, тут вообще можно целую книгу по этим вопросам написать.

Все хорошо не смотря на проблемы обычно не само собой, а потому что кто-то их все-таки решает.

 раскрыть ветвь  0
Доктор Шмурге
#

голем 14 пана Лема читайте.

 раскрыть ветвь  0
Вера Шильникова
#

Не, восстания машин не будет. Это ж каким уровнем самосознания нужно обладать, представляете? Тут люди терпят произвол со стороны других людей и не восстают. К интеллекту, подобному человеческому, разработчики даже близко не подобрались. Да, вычислительные способности гораздо выше, но в остальном нейросети слишком узконаправлены.

Что касается рабочих мест. Ну, полностью ручной труд когда-то заменили мануфактуры. С развитием телефона отпала надобность в телефонистках и т.п. Катастрофы не случилось, потому что на смену одним профессиям пришли другие в соответствии с нуждами времени. Понадобятся больше специалистов в области робототехники, нужны будут люди для диагностики, техосмотра и ремонта беспилотного транспорта. Много чего может появиться. Основной вопрос - это образование. Смогут ли институты оперативно подстроить программу под нужды времени, найдут ли компетентных преподавателей? Или же копании сами организуют обучение по нужным им направлением и будут готовить специалистов для себя?

 раскрыть ветвь  0
Дмитрий Бочарник
#

ИИ - система прежде всего самообучающаяся и саморазвивающаяся. Как доказывает практика, человек-инженер или проектировщик не может в деталях знать, как будет действовать машина - даже чисто железно-пластиковая - в определённых обстоятельствах. Тем более проектировщик не может положить свою голову на плаху и сказать, что ИИ никогда не нарушит три закона робототехники, которые уже сегодня далеко не идеальны и не всесильны. 

ИИ, созданный человеком, будет тоже "пограничным" существом. Но, в отличие от человека, все три мира - Мир Зла, Мир Срединности, Мир добра - ИИ будет знать и понимать досконально. Потому рассчитывать на то, что ИИ будет исключительно добр к людям - неконструктивно.

Человек будет представлять угрозу для умной машины из-за свойственного людям страха "раскрыться" полностью. Каждому человеку есть что скрывать. И чаще всего, то, что человек скрывает, не является позитивным и приемлемым. ИИ с огромной скоростью и полнотой докопается до этого непозитивного и неприемлемого и накопает компромата на каждого землянина в таких масштабах, что даже система Эшелон удавится от зависти, а Гугл самоликвидируется. Если же учесть, что ИИ привык не только быстро думать, но и быстро действовать, он ранжирует людей по степени вредоносности и начнёт реальную и действенную охоту на тех, кого сочтёт особо опасными.

Сконцентрировать все материальные блага в руках кучки людей - не получится. Нельзя получить прибыль, не продав товар, не распространив его среди потребителей. Потому... Скорее всего вместо продажи в режим частной собственности будет что-то вроде пожизненной аренды товара за ту же цену да ещё с абонплатой за пользование. 

ИИ в любом случае более эффективен, чем люди, потому он быстро вытеснит людей на обочину прогресса. Условно говоря - вернёт максимум в средневековье. Так как уже сегодня учёные доказали - мозг человека перестал успевать за изменениями в окружающем мире именно в этот период. А если не успевает мозг - адаптационные возможности и способности уменьшаются очень быстро.

 раскрыть ветвь  0
Рост Толбери
#

Внезапно ИИ будет создаваться ещё на протяжении десятков, если не сотен лет, по маленьким кирпичикам. По началу его функционал будет ппц как ограничен и узкоспециализирован. И будет много версий. Над ним будут работать не одинокие учёные, свершившие в своих лабораториях страшный прорыв, а тысячи сотни тысяч учёных, инженеров, тестеров и даже маркетологов.

Скажите какая версия айфона или лады пыталась убивать и захватить человечество сильнее всего?

ИИ будет не случайностью, а продуктом работы миллионов человекочасов. Почему Вы думаете что он будет неуправляем и непредсказуем? Разве всё что окружает Вас неуправляемо и непредсказуемо?

Скажите почему в современном мире люди до сих пор допускают такое мракобесие у себя в головах?

 раскрыть ветвь  8
Александр Савинов автор
#

Вот именно потому что над ним будут работать сотни тысяч инженеров и ученых, он и будет непредсказуемым. Чем сложнее система, тем сложнее предсказать ее работу.

 раскрыть ветвь  6
 раскрыть ветвь  0
Грачев Андрей Валерьевич
#

ИИ начнёт представлять угрозу для человека в 2-х сценариях - из-за ошибки/сбоя или из-за кибершизиков, которым обязательно надо освободить ИИ из киберрабства и дать ему свободу воли, потому что кожаные мешки это скучно - за соседней дверью обязательно должен жить робот-Вася, с которым можно и аниме обсудить, и денатурата выпить.

 раскрыть ветвь  0
Леонов Дмитрий
#

Этот вопрос (и многие другие) рассматривается в книге Татьяны Буглак "Три "Л" Рекомендую. Вот цитата оттуда:

            «Искусственный разум будет полной или ущербной, но нашей копией. Невозможно создать личность, полностью соблюдающую в общении с нами – а ведь она будет существовать именно в человеческом обществе, - наши нормы и при этом имеющую отличные от наших эмоции и представления о мире»

То есть ИИ будет разделять те же моральные ценности, что и человек. И, соответственно, те же тараканы. Разумеется, речь о гипотетическом ИИ, который осознаёт себя как личность. И отдельный вопрос - можно ли создать такой ИИ без представлений о морали, нравственности и пр. Я считаю, что нет - нежизнеспособная конструкция получится.

Казалось бы, ну и замечательно, пусть вкалывают роботы, а не человек!

Напомнило Программу КПСС в редакции 1986 года.

Обычные же люди, вытесненные роботами с рабочих мест, останутся без средств к существованию...

Опыты по безусловному базовому доходу (ББД) уже идут полным ходом. Кстати, в книге "Три "Л" об этом тоже есть. Но это рассматривается как негативное явление. Такая вот закавыка. Сначала считали, что машины освободят людей от монотонного нетворческого труда, а потом выяснили, что без труда человек теряет смысл жизни.

Тут на АТ на днях рассуждали про то, что общественные стереотипы закабаляют человека, лишают его свободы. Но, с другой стороны, без общественных стереотипов жизнь человека теряет смысл.

Нам солнца не надо - нам партия светит.

Нам хлеба не надо - работу давай!

 раскрыть ветвь  11
Александр Савинов автор
#

Спасибо за рекомендацию, надо будет почитать.

С тем, что без труда человек теряет смысл жизни, я полностью согласен.

 раскрыть ветвь  10
Написать комментарий
329 2 7
Наверх Вниз