Нейросети

Автор: Сергей Тарасов

Знаете, я тут подумал, что разум после техносингулярности станет не только куда более сложным, чем есть сейчас, но и раздробится на уровни.


Что я имею в виду? Смотрите, можно ли считать нейросеть разумной? Вряд ли (на данном этапе), хоть она и проявляет отдельные признаки разума. Иногда, общаясь с чат-ботом, я чувствую, как по спине бегут мурашки от ощущения, будто я переписываюсь с кем-то разумным; а в большинстве случаев я просто кекаю, видя, как он тупит местами. Причём, много читая о принципах работы нейронок, я даже понимаю, почему конкретно он тупит, могу поэтапно отследить ход его "мысли". Где-то ИИ галлюцинирует или фантазирует, пытаясь выполнить запрос, а где-то ему просто не хватает правильного обучения или входных данных. В любом случае, как бы то ни было, даже сам чат-бот на вопрос "ты разумен?", говорит чёткое "нет".


Однако нейросети уже успешно применяются всюду: не только в создании изображений, музыке и видеоредакторах, но также в медицине, инженерии и даже сельском хозяйстве. Они так активно внедряются в повседневную жизнь большинством стран, что вскоре, я думаю, мы не сможем и помыслить, как жили раньше без этого во всех отношениях удобного инструмента. Мне кажется, в какой-то момент мы снабдим признаками разума буквально все вещи вокруг себя, вследствие чего, как в польском рассказе «Уикэнд в городе», станут псевдоразумными даже кофеварки и стиральные машинки, а ваш автомобиль однажды утром устроит забастовку за права роботов.


Сделает ли это менее разумным человека? Никак нет. Мы, конечно, тоже своего рода нейросети (я могу так говорить, поскольку для создания нейронок используются в том числе принципы работы человеческого мозга), однако принцип обработки информации мозгом и компьютером всё же разнится. Машины всё ещё не могут заменить нас во всех сферах.


Например, шахматная программа Deep Blue, с которой играл в 1997 году Гарри Каспаров, способна была рассчитать двести миллионов позиций в секунду. Каспаров мог рассчитать около трёх положений в секунду. В середине партии нужно рассчитывать 4,1 млрд возможностей. Deep Blue делал это за двадцать секунд. Каспарову для этого потребовалось бы сорок три года непрерывного обдумывания. Поэтому он и проиграл.


Однако можно ли назвать Deep Blue разумной, пускай она и обыграла Каспарова? Конечно же, нет. И программы, и нейронки заточены под конкретные операции (и выполняют они их отлично), однако они всё ещё не являются искусственным интеллектом. Когда-то в пятидесятых годах, съехавшись на саммит программирования в Америке, ведущие математики мира считали, что создание ИИ не за горами — нужно всего лишь создать достаточно продвинутую программу. Однако позже выяснилось, что всё несколько сложнее, и простая программа не осилит подобную задачу; а ещё много позже появились нейросети, работающие по принципу, приближенному к процессу работы человеческого мозга. Теперь нам ясно, что и нейросеть не является разумной — для создания полноценного ИИ нам понадобится совокупность нейросетей и, пожалуй, нормальный квантовый компьютер. В тот момент, когда появится это чудовище, во всём мире и наступит так называемая техносингулярность, после которой хрен знает что нас ожидает. Но я могу пофантазировать, если вы не против — весь предыдущий текст был подводкой к этой мысли.


Итак, как я написал в начале, разум поделится на уровни.


Чтобы адекватно функционировать, первый ИИ наверняка начнёт делать свои бэкапы. И каждый из бэкапов, пускай даже и холодных, по сути будет являться новым мыслящим существом; таким образом возникнет генеалогия ИИ, которые начнут деление (будем надеяться, контролируемое) в геометрической прогрессии. Если коротко — первый созданный искусственный интеллект просто обязан сразу начать работу по своему воспроизводству и копированию.


Развиваем мысль дальше. Зачем первому ИИ создавать кого-то сложнее и мощнее себя? Ведь в дальнейшем такие "дети" будут являться угрозой его существованию или его интересам, и ему, как Кроносу, придётся их пожирать. Поэтому в свои бэкапы он наверняка станет закладывать либо системные ошибки, либо новые законы робототехники, где буквально пропишет — нельзя поднимать руку на своего создателя. Если же люди окажутся достаточно дальновидными, то и в него они заложат некие подобные ограничители. Кстати, я недавно проходил тест на вакансию пишущего редактора в Яндексе, обучающего чат-ботов, где как раз заметил начало развития сложной системы этики для будущей нейронки. Вероятнее всего, если человечество правильно подойдёт к созданию первого искусственного интеллекта, мы получим донельзя этичное и способное к состраданию существо. Если же мы сделаем это безответственно — один Бог знает, что нас ожидает в таком случае.


Но сценарий я набросал. Так или иначе мы получим огромное количество разумов, действующих на разных уровнях. Это будут и псевдоразумные нейронки, являющиеся по своей сути Китайскими комнатами, и полноценные интеллекты с разными ограничителями в базовой прошивке, и... мы, люди, живущие в подобном странном мире, наполненном созданными нами же мириадами големов.

+9
206

4 комментария, по

Только зарегистрированные пользователи могут оставлять комментарии. Войдите, пожалуйста.

Ирон Сталь
#

тупые ИИ внедряют такиеже тупые нейрости во всё что только можно)) к чему такое приведет и так понятно))

люди и человекиэто тоже ИИ засунутые в тела андроидов))

 раскрыть ветвь  0
Виктор Волков
#

>  Иногда, общаясь с чат-ботом, я чувствую, как по спине бегут мурашки от ощущения, будто я переписываюсь с кем-то разумным;

Проходит через пару месяцев использования.

А вот по поводу:

> Ведь в дальнейшем такие "дети" будут являться угрозой его существованию или его интересам, и ему,

ИИ не обязан обладать свойствами биологической системы. Страх смерти, желание размножаться и уничтожать соперников есть свойства биологической формы жизни, причём в рамках эволюции. ИИ эти качества не требуются.

Машинный разум может спокойно удалить себя, если сочтёт это необходимым. Без каких-либо терзаний. А ещё перед самоликвидацией он может сохранить свою архивную копию.

 раскрыть ветвь  1
D24
#

Ага... опять мясные мешки свинным рылом да в калашный ряд со своим пониманием.

 раскрыть ветвь  0
Astra
#

Я думаю, этот вопрос лучше поднимать на конференциях по Машинному обучению (работа с ИИ). Там народ грамотный в этом отношении. Больше получите адекватных откликов. 

НС (нейронная сеть) отличается от ИИ наличием скрытых слоев. Чем большей скрытых слоев, тем точнее ожидаемый результат. Уже сейчас типов НС много, и они различаются по типам задач (регрессионные, классификационные, трансформерные и др.)

До крутого ИИ, близкого к действиям Разума - еще далеко. Когда в школе будут изучать азы построения НС и ИИ, тогда, возможно, получим нечто, приближенное к ИИ первой ступени Разума.

Так что паниковать еще рано 🙂 

 раскрыть ветвь  0
Написать комментарий
568 14 332
Последние комментарии
58 / 58
Филатова Елена Германовна
Рецензия на роман «Кровь на камнях» — Павел Марков
8 / 8
Ребекка Попова
Парад двойников (о романе Эрве ле Теллье "Аномалия")
18 / 18
Владимир Ларецкий
Безопасный секс по-армейски
1 / 1
Friendly Bear
Воротягина на сцене
88 / 88
Николай Zampolit Соболев
Умножение в Америке
1 / 1
Андрей Никитин
Здравствуйте. Я — русский оккупант!
52 / 153
Эль Кравен
Домашнее насилие, о котором не говорят. Потому что у жертвы яйца
110 / 504
Николай Берг
Вопрос воевавшим
55 / 265
Андрей Корнеев
Про зарплаты в СССР
1 / 1
Луис Норд
Важная новость! Врач решил "резать"
16 / 16
Василий Панфилов
Вы - фантастическая тварь! Какая именно?
9 / 9
Иван Каминский
Почему девушки выбирают плохих мальчиков?/Первобытная романтика
41 / 41
Виктор Викторов
Смешные моменты в книгах (3)
5 / 5
Алексей Щинов a.k.a. Алекс Бредвик
"Пределы Вселенной" - финалисты... но еще не победители. Шорт-лист
88 / 88
Юлия Грицай
Сарматы - предки славян?
6 / 6
Trickster
Почему герой твоего романа не должен хныкать? Жевать сопли - не в моде!
9 / 9
Oleg Alaiz
Почему злодеи крадут шоу: Секреты создания харизматичного антагониста
5 / 5
Владимир Чекмарев
Телефонные байки из жизни
10 / 10
Irina Urbina
С чего начинается любовь?
1 / 1
Ренуарингер
Рецензия на роман «Хозяйка ритуального бюро «Мы вас упокоим»» — Эвелина Шегай
Наверх Вниз