Выдыхаем - нейросеть нам не конкурент! А начало конца...

Щас дали на перевод "Звёздный Путь: Секция 31" и у меня многие наблюдения последних лет сложились наконец-то в картинку в мозгу, главный вывод которой в заголовке.

Я всё чаще замечаю, что в сериалах логика не то что хромает, а какая-то на уровне трёхлетнего ребёнка. Создаётся некая ситуация, у которой должны быть серьёзные последствия, а потом решается одним щелчком, неубедительно. А импликации ситуации вообще все игнорят, как что-то неважное, хотя они должны быть, но никогда не наступают. Но люди со своей дефолт-системой мозга всё равно додумывают оправдания и обоснуи, и всё сходит рук.

Но тут... Сначала мы видим Татуин с немножко Мандалорским вайбом. Потом переносимся в космический отель с синей певицей, т.е. "Пятый элемент". Потом "вербовщик" убеждает бывшего тирана целой галактики, управляющей отелем, присоединиться к их отряду для выполнения опасного задания при помощи сначала угроз, которыми она совершенно не впечатляется, а потом топорным заявлением в лоб без смены тона и логического перехода "Бросайте прикидываться, вы же хотите снова в гущу действий". И она такая: "Ну ок, убедил". ... ... ...

Потом над представляют команду, один из которых постоянно ржущий вулканец гипер-эмоциональный. Оказывается, это робот под управлением какой-то микроскопической козявки, да ещё и с шотландским акцентом Скотти зачем-то... Ну то есть проще способа спалиться для шпионов придумать просто нельзя.

Потом они рассказывают какой-то идиотский план, тиранша предлагает получше, Мишель Йео демонстрирует свое боевые навыки, хотя и замыленные "другой фазой" (видимо, 62 года не шутка, хотя тело в отличной форме). Оказывается это какое-то супер-оружие из её Зеркальной вселенной (предыстория в "Дискавери"), что окончательно завязывает завязку. Командир отряда требует рассказать, что это и после одной фразы в отмазку, когда дамочка просто ещё не одуплилась от шока, сразу "значит будем по плохому" и стреляет в неё станнером...

На этом сука месте моя логика сказала "ну нафиг, я пошла". Но досмотреть-то надо. Далее я опознала ещё сцену из Индианы Джонса - драка в вагонетках в шахте, невесть откуда и зачем взявшейся на неназванной планете, где они  зачем-то рассуждали, что делать дальше вместо того, чтобы пытаться отследить чувака, укравшего дивайс. Ну и наверняка было что-то ещё - где-то Дюной пахнуло... Ах да, личный щит тиранши. И т.д. и т.п. Я вообще в отсылках не очень сильна. 

Но самое худшее - это драматическая коллизия, что один человек, о котором она вспоминала с теплотой ещё в "Дискавери" и который как бы погиб, оказалось, что не погиб, а теперь задумал ей отомстить, и сам стать императором, хотя в начале фильма показывали, как он плакал по её невинной душе, отдавая это оружие. Потом они подрались, он проткнул ей щёку чуть ли не до пола мечом, но она как-то выкрутилась и случайно тем же мечом рассекла ему артерию. Ну и умирая он вдруг покаялся и признался в любви. Короче, психология, мать наша, тоже вышла в форточку!

И хронология заодно: сначала они не могут угнаться за шаттлом, а потом внезапно оказываются впереди него, просто потому что надо сбросить подожжённый груз из трюма. И кого волнует, как они его догнали и перегнали? Не нейросеть. Потому что это правдоподобный бредогенератор, а наш ум заточен на поиски проверяемых связей (для прогнозирования поведения соплеменников, природы и т.п.), а не на их рандомное придумывание (в котором нет никакого смысла для выживания), сетка же походу не отслеживает, что нагородила, вообще!

Да и спецэффекты тоже на уровне первых сезонов "Андромеды" - таким количеством взрывов в кабине, они давно бы разгерметизировались. И в целом выглядит так, будто ей тоже дали просто промт и она чё сгенерила, то и взяли, по визуалу. В широком доступе вроде пока только короткие клипы доступны, но кто знает, что там у них.

При этом были отдельные моменты, озарённые человеческим разумом, потому что по сравнению со всем остальным они имели какое-то подобие человеческого смысла. В основном, реплики той же Йео и ещё немного командира отряда - там видимо люди руку приложили. Но именно что большинство сценария - это просто набор сцен, неучитывание последствий только что заявленных замесов и потом оставление их в пустоте, совершенно произвольные, ничем не подкреплённые изменения линий поведения, личностные позиции заявленные в топорном виде, который никто никогда вот так в лоб про себя не произносит вслух. И не единой зацепки, чтобы сказать "ух". Просто нет смысла в кине вообще, даже поверхностного.

И это, товарищи, очень похоже, на кусочное творчество нейросети. Вот прям именно в этом фильме КМК ощущается хорошо, что с ним не так: произвольность, отсутствие обоснуев, цельной картины сюжета, импликаций за заявленными деталями, единой идеи, пусть даже на уровне "Федерация рулит". Впечатление нулевое. Сказать, о чём кино не в смысле событий невозможно. Тогда как в человеческих поделках, даже самых примитивных, обычно какая-то единая мысль есть.

И главное, даже штатные сценаристы из титров, чьи имена в целом знакомы по новым сериалам франшизы, не помогли! Но здесь очень может быть причина, по которой я никогда не пользовалась машинной "рыбой" как переводчик - перевести с ноля из головы легче, чем исправить бредовый бред с ужасным строением фраз. Менее энергозатратно для мозга сразу писать по-человечески. К тому же машинная неуклюжесть и неточность заразительна. И поэтому я не буду и для художественного текста у неё помощи просить. Разве что упростить какую-то одну фразу - тут она мастак, особенно для меня актуально - я прям думаю избыточно сложными конструкциями. И то порой бред несёт, не понимает, что использовала однокоренные слова, но полностью поменяла смысл (жаль, не сохранила я историю, стёрла пример).

В общем-то да, бабла на это кино всё равно отвалили, и оно далеко не первое и не последнее. Но если человек не совсем диплодок травоядный, это станет просто невозможно смотреть. Даже незачем. Ну ей богу, любой самый простой человек создаёт более цепляющую интригу. А сценарии нейросети в разном объёме пишут походу уже несколько лет. Ладно ещё если вы просто теряете логику происходящего где-то в одном месте, значит использовали ограниченно. А может, просто сцены были попроще. Но вот вам попытка в блокбастер с сильной по задумке драматической составляющей - и она рассыпается полным пшиком.

И я считаю, что это непреодолимый барьер для нейросети. Она не понимает и не сможет понять, что людей цепляет и в чём есть смысл, за что они сами цепляются до конца и сколько усилий нужно, дабы переменить их мнение. А ещё как человек себе красиво и искренне врёт по части собственных мотивов, как он скажет о себе на самом деле и как это расшифровать, а для писателя главное - как зашифровать. Что правдоподобно, а что нет в человеческом поведении, и что всегда есть основание для тех или иных поступков, а не просто "он вдруг так решил". Как держит нас наша картина мира, в которую мы верим до упора, потому что иначе мир для нас окажется очень страшным местом или мы недостойны любви и т.п. В общем, как работают эмоции и подсознание.

Она может отследить последовательности событий статистически и сделать нарезку из штампов, но не сможет нас впечатлить без обоснуя (а это главный напряг, из-за отсутствия чего вся история оставляет равнодушным), без способности вести от начала до конца именно внутренние изменения, сохранять психологическую обоснованность каждого поступка, а следовательно и сочувствие читателя, который как-то опознал в персонаже себя (но сделай ООС и он теряется, а сеть постоянно ООСит, кажется, у неё вообще нет понимания, что такое характер и как его построить связно, а уж тем более сложно). Не сможет заставить сочувствовать, верить и видеть в герое себя.

То есть, как бы доказано то, что всем понимающим как работает компьютер, и так ясно: вы общаетесь с подобием разума, но не с разумом ни с каким. Смыслы есть только у разума. У калейдоскопа смыслов нет, что наглядно видно при генерации картинок. Нейрочат может вам полчаса якобы связно вести беседу, а потом взять и какую-то дичь спороть. Причём говорят, что так же в программном коде. И наверняка, поэтому же и руки в картинках никак не допилят (разве что закулисная пост-обработка с пересчётом пальцев, но не замысел с пониманием дела, иначе голов на жопах не росло бы вообще никогда). Так же было при моей попытке заставить её рассчитать другой календарь для планеты с иным циклом обращения. Она прямо заявляет - вот, пожалуйста, а через год у тебя 1 января уже 11 явнаря. Ты её тычешь в ошибку, она тебе - ок, пересчитала, теперь всё правильно. И опять та же фигня.

Кстати, это говорит о том, что на нейро-ответы поиска нельзя полагаться слепо, надо обязательно сверить с текстом, написанным человеком, желательно, не одним (текстом или человеком, в этом смысле википедию хотя бы всегда любой желающий может поправить). Особенно для писателей важно, чтобы при проработке матчасти не закрались ляпы.

В общем, для писателей это не проблема. Хотя разумеется круг читателей, которым неинтересно потреблять бред, сильно уже тех, кто потребляет всё подряд - это уже и сегодня видно. Тут вы с машинным бредогенератором не посоревнуетесь - это факт. Чисто по скорости. И не факт, что в книгах сработает то, что на экране, с тем же успехом - там хотя бы есть живые актёры и их харизима. А на что в книгах ловить... Но опять-таки, если живой человек пишет книгу о чём-то, хоть о собственных комплексах, у него и то смысла больше, чем в наборе сцен с произвольными реакциями. 

Зато вырисовывается проблема для всего человечества, который начинает полагаться на эту упрощёнку. А от такой видеопродукции даже элементарным вещам подросток не научится - как ведут себя люди в реале, потому что так как это в нейросетевой интерпретации, они не ведут. Всё-таки у книг и кино есть такая побочная образовательная функция в отражении жизни, тех ситуаций, в который не каждый и не сразу попадает. У нормальных, хороших кино и книг. А раньше было вообще у всех. Помнится, я даже в "Зачарованных" находила валидные для жизни решения. Здесь их нет и быть не может, потому что модель внешних факторов всегда поверхностна, а все смыслы рождаются внутри.

Да, есть вероятность, что смыслы жизни люди себе просто придумывают, основываясь на доп.эффектах деятельности гормонов, генерирующих состояния, которые мозг как-то сложно интерпретирует (психология, мораль, религия). Но до сих пор читали и смотрели именно ради смыслов.

А те, кто снимает, видать давно забили - пипл всё схавает. И наглеют всё больше - если раньше были куски нейросети в тексте человеков, то теперь это маленькие куски человеков в тексте нейросети. Потому что сериалоделатели хотят не высказаться, а баблишка попилить. А для этого нынче главное спецэффекты. Ну и только лучше же, если не надо над сценарием подолгу страдать.

Но если развернуть эту тенденцию дальше, нейросеть может заменить их всех. Просто зададут ей какую-то тему (например, офисные работники в большом городе или эльфийский стрелок на гномьей планете, пофиг, по жанрам) и она будет в реальном времени генерить бесконечную историю в прямом эфире по заданной теме. И люди точно так же будут допридумывать смыслы в рандомном наборе действий, как они это делают сейчас. Они и в жизни так же ничерта не понимают, так какая разница? Можно будет даже голосовалочки сделать, куда повернуть сюжет, с какой бабой остаться и т.п. Понимаете, вообще никто не нужен из всей киноиндустрии кроме какого-нибудь дежурного оператора.

Но. Всё равно останутся люди, которые просто не будут это смотреть. Так же, как они сейчас не смотрят телевизор, к примеру, вообще. Нас мало, но мы в тельняшках! И будем вариться в своём каком-нибудь умно-нете - прикиньте раздолье будет, когда из Сети опять уберут всех дураков?   Точнее, они сами уйдут, потому что тут слова какие-то непонятные, сложные, их надо читать и думать, что это значит, когда можно просто смотреть бесконечное кино =))

Я кстати, опять слишком хорошо думала про человечество - вот, научились же! Но тут один умный человек мне сказал, что технически необразованные люди реально считают компьютеры и смартфоны магией и верят в искусственный разум, а следовательно и всему, что говорит нейросеть. И как-то я поверила этому умному человеку. Потому что уже однажды обломилась в неверием в тупость масс, причём в государственном масштабе. Т.е. вокруг тонны людей без критического мышления, которых вообще не обеспокоит такое кино или книга.

Я вижу в этом такую опасность, которая может привести к самовыпилу человечества, не нужно никаких заговоров машин - достаточно не понимать, что происходит и что ты делаешь, а именно к этому склоняет подобная тенденция - не думать своей головой. Хотя вот Лукьяненко в "Спектре" описывал похоже общество и там это как-то решалось возрастным отупением. Но это явно очень условная непродуманная модель не свалиться в лимбо целым видом (или не откатиться обратно в каменный век, как бывало в сюжетах некоторых старых НФ-сериалов на других планетах, где молились большому компу).

В общем, чёт начала я за здравие, а закончила за упокой. Но самовыпил дело более долгое - не одно поколение сменится, так что пока живём. И стараемся прививать своим детям навыки логического и критического мышления, а также наблюдения за поведением реальных людей и любовью к классике. Пока они не превратились обратно в обезьян. Хотя велики шансы, что "сильные мира сего" что-то придумают, потому что потеря понимания означает потерю власти, так что вариант двухкастового общества умных и работящих выглядит всё более реалистичным, но даже не на основе того, что вас кто-то куда-то погонит силой. Всё уже происходит, как бы само собой. "Если бог хочет наказать человека, сначала он лишает его разума" (не помню кто)

P.S. Блин, у меня реально ощущение, что я от одного просмотра этого бреда отупела, а мне его ещё переводить!