Кротовые дыры разума. Главная проблема нейросетей.

Как в могли заметить (гляньте на улицу) наш мир тихо и незаметно провалился прямо в ад в киберпанк чистой воды. Тихо и незаметно наступает сингулярность, а вопрос появления сильного ИИ - уже вопрос не десятилетий, а скорее 2-3 лет. 

Толпа экспертов бьет в набат со словами "люди, а может что то сделаем, а может ограничим нейросети, ведь есть риск того что сильный ИИ нас всех убьет нахер". 

Начинание хорошее, но в целом бессмысленное. Почему? Потому что, мы нашли, судя по последним данным, ответ на главный вопрос жизни и всего такого (чудо что мы его вообще сформулировали). Звучит он так: А может ли человек создать то, что не в силах понять? 

Так вот, судя по последним научным работам, ответ "Да".

Дам немного теории. Процесс работы нейросетей, что биологических, что электронных, можно разбить на две части:

1. Структура. То есть то, на каких принципах работает эта модель. 

2. Процесс поверх модели. 

Другими словами, если вы повторяете нейронную структуру, червяка (достаточно известное исследование), то ваша система начнет вести себя как указанный червяк. Не важно, что лежит в основе. Биологический пучок нейронов, перспетроны на транзисторах или математическая модель. 

Если бы у нах хватало вычислительных мощностей чтобы воссоздать структуру человеческого мозга, то мы бы могли получить нечто, что мысли так же, как и представитель вида Homo Sapiens. 

При этом сам процесс мышления такому моделирования не поддается. Одной из главных проблем нейросеток является проблема "черного ящика". То есть сам процесс мы наблюдать можем, а вот заглянуть внутрь этого процесса уже нет. Проблема к слову, до сих по не решена. При этом надо помнить, что сейчас мы копируем существующие обьемные структуры мозговой ткани. 

Так вот, о плохом.

Третьего Февраля, группа ученых из MIT, под руководством некого Александра Сторфорда (если я фамилию правильно написал), закончила моделирование четырёх мерной нейронной сети. Сначала они обмазали тему зубодробительной математической теорией, из которой я понял разве что список литературы, а потом загрузили свою модельку на тамошний квантовый компьютер, аж на 54 кубита. 

И заставили его делать довольно простую, на первый взгляд, штуку. Плоскость, два десятка точек со случайными координатами, задача - построить траекторию обхода точек таким образом, чтобы маршрут был кратчайшим. Чтобы вы понимали основной прикол, это так называемая задача коммивояжёра. Она же:

P=NP

Посмотрите внимательно на эти четыре символа, так выглядит священный грааль нашего века. За доказательство или опровержение данной теоремы корпорации готовы платить платиной по весу исследователей. Точнее даже больше. Гораздо больше. Доказательство или опровержение данной теоремы определит развитие нашей цивилизации. Сейчас у нас нет ответа на вопрос: а есть ли такое решение данной задачи, когда на любом количестве точек сможем построить оптимальный маршрут в одно вычисление, или эта задача изначально не имеет решения в общем виде. Этот вопрос охватывает буквально все возможные сферы: биология, математика, физика. То есть можно ли быстро найти решение задачи, которое для каждого отдельного случая очень долго искать но очень быстро проверять. Можно ли так же легко как и проверять искать ответы на топлогические вопросы. Эта приколюха не коснулась разве что астрологии и карт таро, но просто потому что там народ дремучий и в школе не учился. Не суть. 

Так вот, эти самые упоротые ребята из MIT не пытались решить задачу оптимального маршрута. Они просто задали эту задачку примитивной многомерной когнитивной конструкции. И посмотрели на результат. Для проверки они решили задачу старым-добрым перебором. 

Так вот, их многомерная нейросеть решила задачу на эти два десятка точек в одно вычисление. Для любого положения точек решение было в одно действие. Если бы машина скастовала в этот момент фаербол, эксперты удивились бы гораздо меньше. 

То ест у них есть наблюдение, что созданная ими конструкция взяла да и решила сложнейшую задачу тысячелетия. Прикол в том что они не понимают как. То есть мы и сейчас с трудом активность отдельных нейронов в нейросетке детектируем с трудом, то есть при попытке индексировать каждый логический вентиль у вас по экспоненте растет вычислительная сложность. Проблема многомерной нейросетки оказалась еще хуже. Что происходило внутри этих 54 кубитов так ни кто и не понял. 

Не, безусловно, попытка этого объяснения была. Представьте себе что вы нарисовали очень сложный лабиринт, на листе бумаги. Но потом, вместо того чтобы проходит его, сложили лист бумаги пополам и просто проткнули иглой. То есть осуществили задачу мгновенного получения результата. Но вот вопрос, как именно прошел этот процесс - остался за рамками. То есть мышление как процесс поверх многомерной структуры оказался такого порядка сложности, как допустим, наш разум не постижимы для клеток нашего организма. То ест "создать то что не в силах понять" природа уже исполнила. А теперь, кажется, наша очередь. И представьте в каком истеричном состоянии эта научная группа находится сейчас. Ну то есть примерна та же ситуация в которой оказывается кошка наедине с банкой консервов. Еда вот она, только нужен способ открыть эту банку. А у кошки лапки. 

"Пацаны, мы решили задачу тысячелетия, но не знаем как". Как индексировать не детерменированную материю наши физички не придумали даже теоретически. Пытаюсь понять, где развернется скандал насчет этой работы. А скандал точно будет. 

Опыт научная группа кстати повторила несколько раз. И в своем бессилии расписалась в той же статье. 

А теперь вернемся к тому, с чего начали: 

Может ли разум создать то что не может понять? Ответ "да". Мы это случайно проверили. И любые наши попытки этот процесс ограничить смотрятся нелепо. Мы в целом не знаем как поведут себя такие многомерные структуры. Ну нет у нас когнитивного аппарата чтобы понять работу многомерного разума. Это как если бы плоские человечки пытались понять ход мыслей объемных людей. С тем же успехом камни  могут понять нас. 

Поздравляю! Все рассуждения на тему, как сделать так чтобы ИИ нас не уничтожил можно выкинуть на помойку. Чтобы повлиять на это, нам базово нужен такой же сложный ИИ, который будет способен проконтролировать первый ИИ. А у нас его НЕТ! 

Еще раз поздравляю, товарищи. В ближайшее время мы всей цивилизацией сыграем в русскую рулетку с неизвестным количеством патронов. Мы просто не знаем что будет дальше. Теперь уже официально.  

Саму статью и перевод выложу чуть позднее, она на сайте как ПДФ и надо ее не выходит перевести встроенным переводчиком гугла.