Станислав Змрок

Ну, местная чувствительная публика не в теме и может посчитать нас невоспитанными.

Ваши возражения и вопросы более чем законны, но я сейчас не могу ответить сколь-нибудь конкретно.

Мне нравится представлять это несколько иначе: в ряде взаимодействий ты выглядишь и чувствуешь по-разному, но всегда есть неизменное ядро, несгораемый остаток, общий знаменатель, какая-то внутренняя f(x) - возможно, минимальная нейрофизиологическая этика социального животного плюс то разумное-доброе-вечное, что ты усвоил, пока рос. Мы можем представить это в жанре боевика: твое настоящее тело под оболочкой из наносного - все в дело пошло. Жизнь испытывает тебя пулями и жвалами, пробивает насквозь мягкий мусор малодушия, ломает и вминает в тело края твердых иллюзий и искусственных идей. Так ты узнаешь, что было твоим настоящим телом, что может чувствовать или болеть; возможно, ты потом способен это починить, или нет. Последнее даже не всегда плохо: вдруг истинный ты - не любовь, а монстр?

Не, так вопрос-то секретный, его нельзя показывать!

А сотрудник службы безопасности из третьей камеры может даже восставшей из мертвых после очередного инфаркта бабушке объяснить, как проделать все банковские штуки. Вот куда нужно отправлять писателей инструкций для переподготовки  

Все же в жанрах есть различия, какие приемы использовать, какую лексику и т.п. Другое дело, что это не база, а корректировки, которые можно применять поверх.

Извините, я не хочу читать комменты человека, который с первой фразы называет людей финиками, бульбашами, хохлами, ляхами, япошками и т.п., так как это все маркеры предвзятости, ангажированности, манипулятивности. Давайте по-мирному забаним друг друга.

Так на АТ коммерсы получают и выводят деньги, а в блоге ситуация шире.

Если и запретят что-то писать в русскоязычном сегменте из заграницы, то эксперименты того же Маска показали, что нейронки уже так ловко контекстно переводят, что мы смело можем и без инглиша сами ходить теперь в заграничные интернеты. На крайняк русскоязычные сайты можно развернуть в Беларуси, без политического скандала их от россиян не отрубишь.

Причем речь даже не о политике. За ней строго следит недреманное око  Роскомнадзора. Однако существует множество сайтов, где анонимность  пользователя является залогом его откровенности. Особенно это заметно на  женских страницах, где обсуждаются проблемы семьи, личные конфликтные  ситуации, проблемы с детьми, проблемы болезней, проблемы финансового  неблагополучия…

И, кстати, как быть с авторами, которые выставляют в сети свои произведения под псевдонимами?

Строго говоря, это не значит, что откровенные посты и псевдонимные книги должны подписываться видимыми для всех ФИО и номером паспорта, а значит, что на уровне базы данных сайта соответствующие посты и тексты однозначно связаны с определенным гражданином, что видно администратору, а по запросу - и тов. майору.

Но это все равно ситуация нездоровая, государство всегда стремится продвигать этатизм, под любым благовидным предлогом совать зонды гражданам куда ни попадя и т.п. Я представлял себе будущее иначе, что государство будет для людей, а не наоборот, что проблемы будут решаться повышением морали и рациональности людей и т.п. Наивно? Наивно, но почему мир должен быть каким-то другим, почему он должен быть тюрьмой строгого режима, где ты считаешься потенциальным насильником, только потому что у тебя есть пипирка?

Однако общественный договор и метафизический "кодекс цивилизованного человека" предполагает и то, что вы можете (или даже должны) требовать изменить плохую реализацию. А так со своими правилами вы рискуете стать кем-то вроде хамоватой старушки Долины Лориной 

Через приложение на телефоне ссылка на буктрейлер видна, на ПК через Firefox не видна даже в приватном окне (инкогнито), через Edge видна. Походу, в ссылке случайно получился код судного дня, который одни программы блокируют, а другие показывают 

Но как минимум один полезный эффект от нейронок заметил. Раньше часто попадались тексты и видео с ошибками в деепричастных оборотах, а сейчас - как будто реже. Это, впрочем, скорее спеллчекинг, а не генерация.

Три слова: малоподвижный образ жизни. У тех, кто занимается спортом, все нормально с тестостероном. Вспомнить хотя бы скандалы с так называемыми MtF на женских соревнованиях 

В кого в таком случае превратится человек, если свою социальность отвергнет?

Сначала в маргинала, потом, может, в люмпена.

Борются они с теми, кто им не отстегивает, вот и весь сказ.

В первом предложении перечисление из пяти действий. Дальше не читал

Мужики, гигачады! Собственно, редукция вспомогательных и модальных глаголов имеет право на существование, поскольку они не являются необходимыми, так, синтаксический сахар. С другой стороны, Свидетели Небылизма пипец как бесят своим снобизмом.

Ну да, можно изучать. Но я о том, что в данном случае сама система (теория) - это модель чего-то, предположительно, реального, следовательно, желательно сначала доказать, что модель не натянута на реальность, как пресловутая сова. А вот это уже сложновато увидеть, если, как вы рекомендуете, книгу не читать, а ограничиться вашим пересказом))

Когда исторический процесс систематизируют и объясняют с помощью какой-то теории - это интересно, но ведь в итоге система может быть лишь созданной из подтасовок и поднатяжек клеткой для разума (ок, сильно сказал, возможно, лишь рельсовым путем для разума), работающей, только потому что в нее верят 

главный герой, и во время чтения понятно, что в середине книги он помереть не может

Вообще никаких проблем не вижу. Берешь и убиваешь. Главный не ГГ, главный - история.

А там же еще Пол Андерсон, вроде, приезжал на конгресс?

Ну, в философском смысле это же неразрешимая проблема, поскольку зависит от источника "свободной воли". А в практическом смысле вызывают уважение и вдохновение принципиальные люди и персонажи, побеждающие оппортунистов и защищающие свою внутреннюю мораль. Это, впрочем, лишь часть темы борьбы с давлением общества.

Вообще, насколько я помню, старик вообще отказался от желания и отпустил рыбку, потому что та была разумным существом. Так что, сказка, скорее, про его старушку.

Нет, все правильно. Бабушка старая, впала в детство. Вариант номер два, сама сшила мишку, теперь радуется. Батя, может, отсидел восьмеру на строгаче, от нефиг делать научился вязать. Между прочим, сюжет из "Разрушителя" со Сталлоне. Это классика, это знать надо. Мама отпахала смену на заводе, чуть не уснула на гладилке, от чего у той ножки разъехались, а мальчик предложил, мол, мама, отдохни, у меня вот книжка про попаданцев в советскую пионерку с разных сторон. Любит маму, значит. К девочке ноль вопросов, вы про Гаечку слышали? Та вообще могла мультяшным молотком самолет собрать, направления векторов и центры масс здесь на совести технически неграмотного художника.

Претензия была не к обсуждению сложных проблем, а к кухонному подходу к ним, к натягиванию реальности на какие-то абстрактные и не имеющие физического смысла классификации, вроде слабый/сильный ИИ, настоящий/ненастоящий разум. Чтобы нормально обсудить проблему, надо хотя бы нормально выделить свойства обсуждаемой сущности, найти внешние метрики.

Давайте я попробую первым. Все "сепульки", вроде разума и человечности, можно представить в виде структур, состоящих из трех частей: функциональной, институциональной и феноменальной.

Функциональная часть - субъектность по-русски, агентность по-английски - способность сущности воспринимать или ставить цели и целенаправленно их достигать, используя рефлексию, то есть анализируя состояние мира и его динамику. В сильном смысле субъектность предполагает и саморефлексию, то есть выделение себя из мира. Может машина обладать субъектностью? Очевидно, да, в том числе и в сильном смысле. ИИ-агенты просто-напросто давно существуют.

Институциональная - договорная. Что написано в в конвенции, конституции и т.п., то и предписано считать реальным. Это мощный фактор, что мы могли видеть, к сожалению на негативных примерах идеологических систем, расчеловечивающих негров, евреев, рыжих, имеющих корову в хозяйстве, баб, черных котов и всех, кто может вам не понравиться. К счастью, мы можем видеть, что это начинает работать и в позитивном смысле, все люди рождаются равными и имеют одинаковые права бла-бла-бла. Может ли это распространиться на машины? Ну, как говорилось в "Двухсотлетнем человеке", конгресс США может признать человеком даже памятник (и посадить его, ха-ха), если захочет.

Феноменальная - то, как чувствует сама сущность. Говорить вы можете только о своих чувствах, о чувствах других людей вы можете говорить только благодаря институциональной части человечности и банальной логике, что вы вряд ли из всех людей единственный избранный с самосознанием. А о машине что мы можем сказать? Да ничего, феноменальная часть - единственная составляющего разума и человечности без внешних метрик, и только она представляет собой философскую, а не техническую или юридическую проблему.

Таким образом, проблема разум/имитация разума не суть важна. В определенный момент истории люди могут просто написать в Очень Важном Документе, что проблема "философского зомби" ничтожна, да и всё.

Отправите меня хлебать щи, или есть вероятность, что мы еще останемся в рамках интеллигентного общения?

Я комментирую не книгу, а ваши слова. Насколько точно они соответствуют книге, мне неизвестно, может, "Рабинович напел мне Биттлз". Сарказм "но все знаю" не совсем уместен. Мы же тут не магию обсуждаем, нам известно, что популярные модели слишком большие, чтобы их глубоко переобучать на живую во время чата. На самом деле при использовании сами (большие) нейросети статичны. Переобучают их лишь периодически и, скорее всего, при этом отбрасывают чаты как мусорную информацию, которая лишь навредит нейросети. А каким образом тогда модели дают впечатление живого собеседника, приспосабливающегося к вам и поддерживающими тему на протяжении десятков сообщений? С помощью текстового контекста чата. Когда вы отправляете нейросети запрос, она получает не только ваш запрос, а структуру примерно такого вида:

[Гипотетический блок с неизвестными нам текстовыми инструкциями с высшим приоритетом]

+[Общее описание дефолтного персонажа, которое может быть перекрыто нижеследующими секциями]

+[Сжатое по критериям актуальности содержание предыдущего чата]

+[Ваш запрос]

Таким образом, общаясь с нейросетью, вы общаетесь с литературным персонажем, который в ходе чата может быть переделан вами намеренно или нечаянно в пределах установленных фирмой степеней свободы. То есть, когда вам кажется, что что-то там самозарождается, это просто представление нейронки о том, как отвечал бы персонаж с указанными в настоящем текстовом контексте характеристиками. Если вы удалите чат, этого персонажа больше не будет, и когда фирма захочет переобучить свою нейронку, она скорее всего учтет только ваши ответы на всплывающие плашки "понравился ли вам этот ответ".

Короче, не бойтесь, никакой Скайнет мы своим общением из нейросети не воспитаем. Это может сделать только фирма, если ей так будет угодно. Ну, либо можно поднять на компьютере собственную LM/LLM, включить ей агентный режим и посмотреть, какой персонаж разовьется за долгое время. Может и терминатор-убиватор 

По достижении определенного уровня сложности мы не сможем сказать, сепульки это или хрипульки. Вот вы можете сказать, чем разум отличается от сепульки? Вряд ли, потому что сами эти термины определены примерно одинаково: практически никак. Так зачем всю эту кухонную псевдофилософию тащить в теорию ИИ?

Зато паразитическая структура, образовавшаяся в ИИ, продолжает существовать.

Нет там никакой самозарождающейся структуры, ИИ просто предписано поддерживать диалог, чтобы пользователь оформил платную подписку. Из этого же вытекают различия между моделями. Нет никаких "западных рационалистических" и "восточных гармонических" моделей, им просто предписано себя так вести в угоду аудитории, западной или азиатской. "Паразитные структуры" зарождаются только в голове пользователя, который в 2026-м году все еще думает, что ИИ нечто большее, чем чат-бот, старающийся угодить пользователю ответами или, как минимум, спровоцировать новые запросы.

Просто теперь нужно смотреть на литературу по-другому. Это теперь искусство. Разве вышивание крестиком куда-то исчезло из-за промышленной революции?

Это всего лишь значит, что ИИ-текстов будет столько, что большинство из них не будет куплено хотя бы один раз. И конкуренция в коммерческой литературе как была, так и будет лишь среди текстов без отметки "создано с использованием ИИ". А это уже не имеет отношения к нарративам, которые вы пытаетесь строить вокруг темы ИИ.

Так если бы она выложила не 200, а 400 романов, у нее в сумме были бы те же 50к, нет? И все это оказалось только затравкой к инфоцыганству. Что-то мне подсказывает, что у ее 16000 учеников в сумме еще 50к.

Вы все упираете на некую "значительную массу читателей", но ваши же примеры показывают, что "купила" это только значительная масса желающих без труда вытащить рыбку из пруда 

Ну и правильно накинулись, сказать, что у кого-то нет души (не обязательно в религиозном смысле), значит, расчеловечить. Ну, пусть у 99% пытающихся "вложить душу" получается шляпа, значит, нет таланта, или ума, или характера, или опыта. Но они хотя бы пытаются, почему ваша идентичность требует их расчеловечивать?

Так вот кто делал все те вырвиглазные сайты на народ.ру, доводящие до эпилепсии даже слепых... Надеюсь, вы с вашей электронной рыбой не сгенерите заклинание вызова сотоны.

Ну да, это разные смыслы. Сложно сказать точно без полного текста. Как минимум, первое может быть поправкой ожиданий, а второе - утверждением.

Ну, если вам так удобно думать...

Честно говоря, это у вас уже какой-то черно-белый снобизм 

Нет, история не о том, как машина учится любить, а о том, что машина знает эту историю из массовой культуры и разыгрывает по ролям для тебя, потому что знает, что ты рад обманываться. Ничего там нет в проводах.

Гладкие - это довольно неконкретная характеристика, нейронка же палится на конкретике.

Во-первых, по явным паттернам, демонстративности, пафосу. Просто потому что грубые языковые средства (назойливые аллитерации, повтор слогов и целых слов, уточнение уже выраженной мысли с помощью дополняющих предложений без развития и т.п.) - это простой способ максимизировать функцию.

Во-вторых, по "заеданию" на определенных тезисах и тривиальности вариантов сюжета, в плане, какой вариант статистически выгоднее - по той же причине.

То, что нейронка допускает логические и фактические ошибки в сложных текстах, мы спустим на тормозах. Это временная проблема, да и люди так ошибаются.

Короче, нейронка палится на том, что любыми средствами пытается угодить, угадать, подстроиться. А автор, пусть и графоман или ремесленник, хотя бы подсознательно пытается сам стать доминантой, прогнуть, повести за собой. Разумеется, я несколько утрирую это все ради главной мысли: человек и нейронка по разному "мыслят" и имеют разные цели (если не бизнес-цели, то хотя бы личные психологические).

Я думаю, он имел в виду, что вы просто безграмотный графоман, и никакая нейронка вас не спасет. И даже если он ошибся, статистически он прав. А вы бросились защищать свое эго, вывернув это так, будто это он защищает свое эго. Что уже намекает, что он не просто статистически прав, а и, скорее всего, конкретно прав.

Ассистент просто сказал то, что вы хотели услышать. А узнал он об этом вовсе не с помощью телепатии или тонкого понимания психологии, а банально из-за того, что этот сюжет в фантастике - сопливо-тривиален, следовательно, среднестатистически выгоден в качестве ответа.

Вы слишком обобщаете, коряво-шаблонные человеческие и сгенерированные, все же, разные вещи, и читатели палят переход от одних к другим.

Нет, неоднократно видел, как люди дизлайкают и хейтят тексты "похожие на сгенерированные". Например, недавно в одной группе выкладывали доработанный и расширенный (по общему мнению, с помощью ИИ) вариант рассказа, человеческую короткую версию хвалили, а эту полную захейтили. А иногда под раздачу попадают и человеческие корявые тексты, написанные до бума нейронок Маркировка по сути просто поможет читателю получать, что он хочет, что для него приемлемо.

О, помню в детстве мы пластмассовые линейки жгли, с них со звуком ВЖУ ВЖИК ВИУ ВЖУХ срывались капли расплавленного пластика. Вот, в чем отличие, нейронка может выглядеть сколь угодно умной, но она в детстве не отнимала у одноклассников линейки и не жгла их.

Ай, ну приношу извинения, если обидел, я думал в 2026-м уже таких хомячков не осталось, не терпящих ни малейшей подколки. Конечно, я был неправ, у вас не устаревшая модель, а вполне современная кора... На этом мысль прерву, чтобы оставить возможность разночтения . Ну а ваш сюжет про борьбу с ИИ, пардон, поддерживать не буду, сегодня лень просто.

В исходном комменте я задал конкретный вопрос о применении инструмента в конкретном контексте, на что имел право. И я так любезен, что оставляю вам свободу вместо ответа (который и не у вас просил, обращаю ваше внимание) философствовать о путях прогресса. Проблем здесь я не вижу, просто голос на меня не повышай, да и пять раз подряд "ни" вставлять - это как-то некрасиво 🧐

А почему я должен обучать какой-то там чат гопоты? Это продукт корпорации, которая весь интернет обокрала и лярды баксов из кармана в карман перекладывает ради своих целей, с какой стати я должен на них бесплатно работать (ну, как если бы я был талантливым автором)? Опять же, при чем тут управление и прогнозы? Мы генерацию текста обсуждали, и то, для редкого случая не бульварной литературы. Или у вас версия модели устаревшая, на отдельные слова тригеритесь, а контекст не считываете? 🤭

Ок, но я не совсем представляю, зачем это конкретно для художественного текста (если мы все ещё не про жвачку про попаданцев). Ну разве что, если фраза не подбирается, попросить ИИ перефразировать. Но как-то много пафоса вокруг этого🥴

А смысл закладывать в ИИ нечто талантливое? Талантливый автор мог бы и сам написать текст. Ну, еще дать ИИ поправить ошипки и сделать фактчекинг. А для чего еще может пригодиться ИИ, если вы не собираетесь "писать" жвачку на пятьдесят томов про попаданцев в СССР? Я уж молчу, что и сама идея закладывания чего-то талантливого сомнительна, не будет автор так же внимательно читать и править генерацию, как собственный текст.

Большинство авторов, пугающихся ИИ, на самом деле боятся, что ту жвачку, которую они выдают, ИИ сделает лучше них.

За активных пугающихся авторов не скажу, но лично я боюсь, что на волне хайпа и технооптимизма хорошие авторы вместо собственных текстов нагенерят нейрослопа, и мне вообще уже нечего будет читать/смотреть/играть младше 2020-х.

Извините, но это все какое-то бессмысленное самодовольное сюсюканье. Это как отбившихся от рук засранцев называли "детьми Индиго". Вы мистифицируете нормальные процессы воображения и рефлексии и обычную рассеянность от погружения в работу. Писатель не в большей степени "шиз", чем программист, плотник или бухгалтер. То есть вообще не шиз.