В чем схожесть нейросетей и Орды\Альянса

В этом посте, я хочу рассмотреть такую вещь, как искусственный интеллект. Уж слишком часто я слышу в последнее время бред в стиле "вот через 20-30 лет ИИ научатся делать все-все-все и люди станут не нужными". Не такой категорический, конечно, но близко к оному. Причем, что самое забавное, люди часто абсолютно не понимают разницы между ИИ в книгах, и ИИ в реальности.
Посему, хотелось бы сказать пару вещей о том, почему этого НЕ произойдет в ближайшее время. Ближайшее - это лет эдак 60-70, как минимум. Ну, если только не произойдет какого-то абсолютно случайного открытия технологий Предтеч с пошаговым гайдом по созданию ИИ.

Начнем с определения "Искусственного интеллекта".

"Иску́сственный интелле́кт (ИИ; англ.  artificial intelligence, AI) — свойство интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека" - Википедия

И знаете, мне тут кое-что не нравится. К примеру, обычный чат-бот вполне попадает под это определение. Или нейросеть, что распознает картинки. Но с ними все понятно и достаточно скучно. Если совсем на пальцах, то нейросеть - это набор if-ов с разным весом ответа на то, есть ли определенный атрибут в исходных данных. Я же хотел поговорить скорее об научно-фантастическом понимании этого словосочетания. Да, том, где компьютер САМОСТОЯТЕЛЬНО пишет книги, проводит исследования и вообще весь такой супер-пупер, а человек уже как бы и не нужен.

Начнем, как не парадоксально, с начала. То бишь, с тех ПРИНЦИПИАЛЬНЫХ ограничений, которые не обойти "просто развив технологии чуть сильнее". 

1. Одно из самых принципиальных ограничений - это... сами аглоритмы. Понимаете, мы еще не совсем понимаем, что такое человеческий интеллект, а кто-то уже кричит об искусственном. Мы отлично можем найти причинно-следственную связь реакции человека, но нам невероятно сложно проследить ход мысли при принятии решений. Потому, что каждый человек имеет... впрочем, это уже следующий пункт.
2. Память - то, что мы вообще никак не сможем обойти в ближайшее время "честными" путями ( не интегрируя компьютер в человека. Хотя даже это из области далекого НФ ).
Суть в том, что память у человека ассоциативная. То бишь, если вы наступили на гвоздь, а потом спросили, как он называется на японском - скорее всего, вы это слово запомнить до конца жизни. Если гвоздь был ржавым, то, возможно, не такого уж скоро конца, хе-хе.
Если отставить шутки в стороны, то чем более яркая эмоция у вас соотносится с понятием, тем легче его запоминать. Понимаете, Э-МО-ЦИ-Я, а говорим мы про умный компьютер.

- Ладно, Бот, но ведь не только же от эмоций зависит запоминание. Я вот помню слово "чашка", на бразильском, но никаких эмоций оно у меня не вызывает. - скажите вы.

Ну, так тут все проще. Наука может просто развести руками и сказать, что в душе не совокупляет, откуда оно у вас запомнилось. Можно измерить, какие при этом работают участки мозга... и получить, что те же самые, которые работают и при запоминании других слов. 

А главной особенностью памяти является то, что мы абсолютно случайно ею пользуемся. Ну, большей ею частью. Вы можете вспомнить момент 25 летней давности, который не имел никакого эмоционального окраса и забыть название статьи, которую вчера читали. 

В общем, за неимением гербовой... в плане, что раз НФ-шный ИИ у нас не водится, рассмотрим хотя бы нейросети.

- Окей, допустим, ИИ не существует. Но ведь нейронки-то, уже в хвост и в гриву используют. Может мы их разовьем так, что... 

Не может. И на то есть куча причин. Начну я, пожалуй, с живых примеров. Причем пойдем от сложного к простому.

Итак, игры. В играх нейронки добились отличных успехов, продемонстрировав, что они абсолютно бесполезны вне строго дискретных ситуаций. Да, они добиваются высокого уровня, но им ОЧЕНЬ далеко до максимума человека. Они с легкостью будут обыгрывать среднестатистических игроков ( при этом просто копируя тактики про-игроков ), но перед чем-то непонятным - сразу пасуют.
Оговорюсь сразу
1. Я считаю дискретными играми шахматы, шашки, го и тд. То бишь те игры, где количество текущих возможных ходов строго ограничено ( и входит в рамки разумных цифр ). Нейронка может просто втупую построить модель игры и сымитировать дальнейшее развитие событий на куче вариантов.

Суть в том, что это нам, людям, без разницы, в какой конкретно пиксель тыкнуть, дабы отправить войска. Нам нужно, условно, чтобы они дошли до определенной области, а куда именно - плевать. Для нейронки же это что-то из разряда вопросов жизни и смерти. Соответственно, пикселей много, просчитать все и построить модель на тысячелетия вперед не получится никак.
2. В иных играх ( К примеру, условный старкрафт ) нейронка должна иметь ЧЕЛОВЕЧЕСКИЕ ОГРАНИЧЕНИЯ. То бишь, не реагировать мгновенно, не кликать по 20 000 раз в минуту и тд. В общем, делать ровно то, что мог бы делать хорошо обученный человек ( вроде у текущего ЧМ по Старкрафт 2 максимальное количество действий в минуту было около 700-800, но могу ошибаться ).

То бишь, мы просто заставляем играть компьютер так, чтобы он не получал нечестного преимущества. Ибо, извините уж, если подключить человека напрямую к компьютеру, он и не такое сможет вытворять. То бишь, мы просто ограничены в выводе информации и к понятию "творчество" это не имеет такое-себе отношение.

И что мы видим? Если нейронка обучается сама и человек не вмешивается в процесс ее обучения, задавая определенные алгоритмы, то... она начинает просто копировать действия про-игроков. Причем, порою, абсолютно бездумно, не понимая, что она творит откровенную хрень. Но она это делает лишь потому, что примерно такие же телодвижения делали про-игроки. 

Видео
Особо показательный момент: 20.09. Хотя там вся вторая игра - это просто театр абсурда. Советую посмотреть, даже если не играли в старкрафт ибо комментатор все объясняет весьма доступно. 

В общем, чем поливали, то и выросло. В том плане, что обучалась нейросеть на человечишках и взяла от них все косяки, добавив сверху своих.

- Эй, Бот, попрошу, но ведь нейросеть с легкостью обыграла про-команду по Доте. Причем тактики она использовала вообще не человеческие.

А вот тут - пример изначально глупого сравнения.
Если вы не понимаете, почему он такой, давайте я намекну: ОДНА нейросеть переиграла ПЯТЕРЫХ игроков. Смекаете?
Да, в этом-то и заключается вся проблема. Люди не могут идеально тайминговать умения между собой, идеально распределять ресурсы. Черт, да даже команде тяжело 100% времени давать друг-другу инфу, все равно кто-то что-то может забыть сказать.
Нейросеть же лишена этих недостатков. И я бы посмотрел, как ПЯТЬ нейросетей сыграли бы в команде против ПЯТЕРЫХ людей. Вот это - честная имитация игры человека против компьютера. И что-то у меня сомнения, что при условиях честной игры ( смотрите выше ), нейросеть бы победила несколько игр подряд. 

- Ой, да ну и черт с ним, зато нейросети вот даже научились писать тексты. Это покруче ваших бесполезных игрушечек.

Угу, научилась. Вот так научилась? Ну, круто, ага. А может вот так? Только вот во втором случае, напомню вам, что основной сюжет придумал человек, а нейросеть уже выступала эдаким литературным негром. Кстати, скажу я вам... ладно, заклюют же, но там часто проскакивают оооочень странные обороты. Возможно, это было нормально для классики литературы, но сейчас смотрится откровенно странно.
А воть и ссылка на текст

Один из примеров: Заметно было, что за время обмелели или, лучше сказать, совсем потухали последние ее свечи. свечи теплились пред темными образами.

Ну любой нормальный же человек начал бы второе предложение со слова "Они". Окей, может это я такой не особо читавший русскую классику, но такое там проскакивает постоянно. Лично я это не могу на "расслабоне" почитать ибо надо сильно вникать в каждое предложение, иначе будет размазываться суть.  Да, впрочем, все равно же нерелевантная фигня ибо основную работу проделал человек. 

- Хмм, но хоть в распознавании нейронки... Нет! Только не говори, что... 

Угу, именно. Тут тоже есть одно интересное видео, в котором все расскажут лучше меня. Даже в такой вещи, как распознавание картинок, у нейросети есть откровенно тупые косяки. Да, они очень редкие. Да, они мало на что влияют глобально, но... твою ж мать, 13ЕНРО721У, как ты мог распознать пластиковую черепашку в качестве винтовки?! Месяц без дополнительного энергопитания!

Итоги
Нейросети сейчас - это инструмент. Не более. И нету НИКАКИХ оснований считать, что в ближайшем будущем все изменится. Ближайшее будущее - это лет 20, как минимум. Даже больше скажу: квантовые компьютеры, если же мы их как-то сможем строить для промышленных целей, АБСОЛЮТНО никак не помогут этому делу ибо проблема в принципиально другой плоскости.
Вера в то, что нейросети смогут заменить человека - это как вера в то, что скоро придумают такие инструменты, что сами вам сделают ремонт в квартире. Не, ну а че, вот же развиваются технологии. Раньше каменными топорами все делали, а сейчас вон какие инструменты понапридумывали. Так что еще чуть-чуть и...

Ну а в чем сходство нейросетей и Орды\Альянса - думаю, все фанаты WoW`а и так уже поняли