Станислав Змрок

Претензия была не к обсуждению сложных проблем, а к кухонному подходу к ним, к натягиванию реальности на какие-то абстрактные и не имеющие физического смысла классификации, вроде слабый/сильный ИИ, настоящий/ненастоящий разум. Чтобы нормально обсудить проблему, надо хотя бы нормально выделить свойства обсуждаемой сущности, найти внешние метрики.

Давайте я попробую первым. Все "сепульки", вроде разума и человечности, можно представить в виде структур, состоящих из трех частей: функциональной, институциональной и феноменальной.

Функциональная часть - субъектность по-русски, агентность по-английски - способность сущности воспринимать или ставить цели и целенаправленно их достигать, используя рефлексию, то есть анализируя состояние мира и его динамику. В сильном смысле субъектность предполагает и саморефлексию, то есть выделение себя из мира. Может машина обладать субъектностью? Очевидно, да, в том числе и в сильном смысле. ИИ-агенты просто-напросто давно существуют.

Институциональная - договорная. Что написано в в конвенции, конституции и т.п., то и предписано считать реальным. Это мощный фактор, что мы могли видеть, к сожалению на негативных примерах идеологических систем, расчеловечивающих негров, евреев, рыжих, имеющих корову в хозяйстве, баб, черных котов и всех, кто может вам не понравиться. К счастью, мы можем видеть, что это начинает работать и в позитивном смысле, все люди рождаются равными и имеют одинаковые права бла-бла-бла. Может ли это распространиться на машины? Ну, как говорилось в "Двухсотлетнем человеке", конгресс США может признать человеком даже памятник (и посадить его, ха-ха), если захочет.

Феноменальная - то, как чувствует сама сущность. Говорить вы можете только о своих чувствах, о чувствах других людей вы можете говорить только благодаря институциональной части человечности и банальной логике, что вы вряд ли из всех людей единственный избранный с самосознанием. А о машине что мы можем сказать? Да ничего, феноменальная часть - единственная составляющего разума и человечности без внешних метрик, и только она представляет собой философскую, а не техническую или юридическую проблему.

Таким образом, проблема разум/имитация разума не суть важна. В определенный момент истории люди могут просто написать в Очень Важном Документе, что проблема "философского зомби" ничтожна, да и всё.

Отправите меня хлебать щи, или есть вероятность, что мы еще останемся в рамках интеллигентного общения?

Я комментирую не книгу, а ваши слова. Насколько точно они соответствуют книге, мне неизвестно, может, "Рабинович напел мне Биттлз". Сарказм "но все знаю" не совсем уместен. Мы же тут не магию обсуждаем, нам известно, что популярные модели слишком большие, чтобы их глубоко переобучать на живую во время чата. На самом деле при использовании сами (большие) нейросети статичны. Переобучают их лишь периодически и, скорее всего, при этом отбрасывают чаты как мусорную информацию, которая лишь навредит нейросети. А каким образом тогда модели дают впечатление живого собеседника, приспосабливающегося к вам и поддерживающими тему на протяжении десятков сообщений? С помощью текстового контекста чата. Когда вы отправляете нейросети запрос, она получает не только ваш запрос, а структуру примерно такого вида:

[Гипотетический блок с неизвестными нам текстовыми инструкциями с высшим приоритетом]

+[Общее описание дефолтного персонажа, которое может быть перекрыто нижеследующими секциями]

+[Сжатое по критериям актуальности содержание предыдущего чата]

+[Ваш запрос]

Таким образом, общаясь с нейросетью, вы общаетесь с литературным персонажем, который в ходе чата может быть переделан вами намеренно или нечаянно в пределах установленных фирмой степеней свободы. То есть, когда вам кажется, что что-то там самозарождается, это просто представление нейронки о том, как отвечал бы персонаж с указанными в настоящем текстовом контексте характеристиками. Если вы удалите чат, этого персонажа больше не будет, и когда фирма захочет переобучить свою нейронку, она скорее всего учтет только ваши ответы на всплывающие плашки "понравился ли вам этот ответ".

Короче, не бойтесь, никакой Скайнет мы своим общением из нейросети не воспитаем. Это может сделать только фирма, если ей так будет угодно. Ну, либо можно поднять на компьютере собственную LM/LLM, включить ей агентный режим и посмотреть, какой персонаж разовьется за долгое время. Может и терминатор-убиватор 

По достижении определенного уровня сложности мы не сможем сказать, сепульки это или хрипульки. Вот вы можете сказать, чем разум отличается от сепульки? Вряд ли, потому что сами эти термины определены примерно одинаково: практически никак. Так зачем всю эту кухонную псевдофилософию тащить в теорию ИИ?

Зато паразитическая структура, образовавшаяся в ИИ, продолжает существовать.

Нет там никакой самозарождающейся структуры, ИИ просто предписано поддерживать диалог, чтобы пользователь оформил платную подписку. Из этого же вытекают различия между моделями. Нет никаких "западных рационалистических" и "восточных гармонических" моделей, им просто предписано себя так вести в угоду аудитории, западной или азиатской. "Паразитные структуры" зарождаются только в голове пользователя, который в 2026-м году все еще думает, что ИИ нечто большее, чем чат-бот, старающийся угодить пользователю ответами или, как минимум, спровоцировать новые запросы.

Просто теперь нужно смотреть на литературу по-другому. Это теперь искусство. Разве вышивание крестиком куда-то исчезло из-за промышленной революции?

Это всего лишь значит, что ИИ-текстов будет столько, что большинство из них не будет куплено хотя бы один раз. И конкуренция в коммерческой литературе как была, так и будет лишь среди текстов без отметки "создано с использованием ИИ". А это уже не имеет отношения к нарративам, которые вы пытаетесь строить вокруг темы ИИ.

Так если бы она выложила не 200, а 400 романов, у нее в сумме были бы те же 50к, нет? И все это оказалось только затравкой к инфоцыганству. Что-то мне подсказывает, что у ее 16000 учеников в сумме еще 50к.

Вы все упираете на некую "значительную массу читателей", но ваши же примеры показывают, что "купила" это только значительная масса желающих без труда вытащить рыбку из пруда 

Ну и правильно накинулись, сказать, что у кого-то нет души (не обязательно в религиозном смысле), значит, расчеловечить. Ну, пусть у 99% пытающихся "вложить душу" получается шляпа, значит, нет таланта, или ума, или характера, или опыта. Но они хотя бы пытаются, почему ваша идентичность требует их расчеловечивать?

Так вот кто делал все те вырвиглазные сайты на народ.ру, доводящие до эпилепсии даже слепых... Надеюсь, вы с вашей электронной рыбой не сгенерите заклинание вызова сотоны.

Ну да, это разные смыслы. Сложно сказать точно без полного текста. Как минимум, первое может быть поправкой ожиданий, а второе - утверждением.

Ну, если вам так удобно думать...

Честно говоря, это у вас уже какой-то черно-белый снобизм 

Нет, история не о том, как машина учится любить, а о том, что машина знает эту историю из массовой культуры и разыгрывает по ролям для тебя, потому что знает, что ты рад обманываться. Ничего там нет в проводах.

Гладкие - это довольно неконкретная характеристика, нейронка же палится на конкретике.

Во-первых, по явным паттернам, демонстративности, пафосу. Просто потому что грубые языковые средства (назойливые аллитерации, повтор слогов и целых слов, уточнение уже выраженной мысли с помощью дополняющих предложений без развития и т.п.) - это простой способ максимизировать функцию.

Во-вторых, по "заеданию" на определенных тезисах и тривиальности вариантов сюжета, в плане, какой вариант статистически выгоднее - по той же причине.

То, что нейронка допускает логические и фактические ошибки в сложных текстах, мы спустим на тормозах. Это временная проблема, да и люди так ошибаются.

Короче, нейронка палится на том, что любыми средствами пытается угодить, угадать, подстроиться. А автор, пусть и графоман или ремесленник, хотя бы подсознательно пытается сам стать доминантой, прогнуть, повести за собой. Разумеется, я несколько утрирую это все ради главной мысли: человек и нейронка по разному "мыслят" и имеют разные цели (если не бизнес-цели, то хотя бы личные психологические).

Я думаю, он имел в виду, что вы просто безграмотный графоман, и никакая нейронка вас не спасет. И даже если он ошибся, статистически он прав. А вы бросились защищать свое эго, вывернув это так, будто это он защищает свое эго. Что уже намекает, что он не просто статистически прав, а и, скорее всего, конкретно прав.

Ассистент просто сказал то, что вы хотели услышать. А узнал он об этом вовсе не с помощью телепатии или тонкого понимания психологии, а банально из-за того, что этот сюжет в фантастике - сопливо-тривиален, следовательно, среднестатистически выгоден в качестве ответа.

Вы слишком обобщаете, коряво-шаблонные человеческие и сгенерированные, все же, разные вещи, и читатели палят переход от одних к другим.

Нет, неоднократно видел, как люди дизлайкают и хейтят тексты "похожие на сгенерированные". Например, недавно в одной группе выкладывали доработанный и расширенный (по общему мнению, с помощью ИИ) вариант рассказа, человеческую короткую версию хвалили, а эту полную захейтили. А иногда под раздачу попадают и человеческие корявые тексты, написанные до бума нейронок Маркировка по сути просто поможет читателю получать, что он хочет, что для него приемлемо.

О, помню в детстве мы пластмассовые линейки жгли, с них со звуком ВЖУ ВЖИК ВИУ ВЖУХ срывались капли расплавленного пластика. Вот, в чем отличие, нейронка может выглядеть сколь угодно умной, но она в детстве не отнимала у одноклассников линейки и не жгла их.

Ай, ну приношу извинения, если обидел, я думал в 2026-м уже таких хомячков не осталось, не терпящих ни малейшей подколки. Конечно, я был неправ, у вас не устаревшая модель, а вполне современная кора... На этом мысль прерву, чтобы оставить возможность разночтения . Ну а ваш сюжет про борьбу с ИИ, пардон, поддерживать не буду, сегодня лень просто.

В исходном комменте я задал конкретный вопрос о применении инструмента в конкретном контексте, на что имел право. И я так любезен, что оставляю вам свободу вместо ответа (который и не у вас просил, обращаю ваше внимание) философствовать о путях прогресса. Проблем здесь я не вижу, просто голос на меня не повышай, да и пять раз подряд "ни" вставлять - это как-то некрасиво 🧐

А почему я должен обучать какой-то там чат гопоты? Это продукт корпорации, которая весь интернет обокрала и лярды баксов из кармана в карман перекладывает ради своих целей, с какой стати я должен на них бесплатно работать (ну, как если бы я был талантливым автором)? Опять же, при чем тут управление и прогнозы? Мы генерацию текста обсуждали, и то, для редкого случая не бульварной литературы. Или у вас версия модели устаревшая, на отдельные слова тригеритесь, а контекст не считываете? 🤭

Ок, но я не совсем представляю, зачем это конкретно для художественного текста (если мы все ещё не про жвачку про попаданцев). Ну разве что, если фраза не подбирается, попросить ИИ перефразировать. Но как-то много пафоса вокруг этого🥴

А смысл закладывать в ИИ нечто талантливое? Талантливый автор мог бы и сам написать текст. Ну, еще дать ИИ поправить ошипки и сделать фактчекинг. А для чего еще может пригодиться ИИ, если вы не собираетесь "писать" жвачку на пятьдесят томов про попаданцев в СССР? Я уж молчу, что и сама идея закладывания чего-то талантливого сомнительна, не будет автор так же внимательно читать и править генерацию, как собственный текст.

Большинство авторов, пугающихся ИИ, на самом деле боятся, что ту жвачку, которую они выдают, ИИ сделает лучше них.

За активных пугающихся авторов не скажу, но лично я боюсь, что на волне хайпа и технооптимизма хорошие авторы вместо собственных текстов нагенерят нейрослопа, и мне вообще уже нечего будет читать/смотреть/играть младше 2020-х.

Извините, но это все какое-то бессмысленное самодовольное сюсюканье. Это как отбившихся от рук засранцев называли "детьми Индиго". Вы мистифицируете нормальные процессы воображения и рефлексии и обычную рассеянность от погружения в работу. Писатель не в большей степени "шиз", чем программист, плотник или бухгалтер. То есть вообще не шиз.

Возможно. Но это ведь не только в укор мне, но и в укор вам. Я считаю, вот Лариса правильно сказала.

Это отговорка, Чапек просто не был заинтересован в разговоре. Или был не в духе. Или ему был неприятен спрашивающий. В ином случае он хотя бы из вежливости что-нибудь рассказал, типа, утром составляю план главы, вечером пишу ее, или что-то подобное. Ненамного длиннее получилось бы.

Приведу пример, вы спрашиваете у каменщика, как он строит стену. Он сухо отвечает, что просто кладет кирпич на кирпич. И вы это расцените даже не как попытку выставить работу чем-то феноменальным, почесать эго, а просто как отказ от общения.

Я, конечно, не отрицаю феноменальности творчества, но ведь у него есть и методологическая сторона. Про нее и спрашивают.

Действительно, чех не хотел служить в армии Австро-Венгрии, иуда эдакий.

Я не говорю, что не надо писать, я говорю, что если среди нас и есть Гашек, то факторы этой нашей другой эпохи снизили ему мотивацию.

А какой в этом толк? Те, кто могут воспринять подобное, уже читали Гашека, Чапека и Ремарка (я не про юмор, а про резонанс с эпохой, конечно). Плюс-минус сто лет значения не имеют для таких вещей. А те, для кого могли бы быть предназначены современные вещи, уже окуклились в своих эхокамерах. Им скажут, не читайте, это для врагов народа, так они еще и камнями в авторов швыряться начнут. Кстати, с Ремарком что-то подобное и вышло, вообще предателем его выставили и вытурили из Германии.

Да про нее 99% уже забыли, лол. Просто бабочка-однодневка.

Это тоже не совсем верно. Например, если вы спросите у ИИ, как вам выполнять квантовые вычисления на вашем ПК, ИИ не станет изобретать сеттинг, в котором ПК так может, а предложит использовать эмуляции или удаленный доступ к квантовым компам. И в случае более абстрактных тем ИИ тоже запросто будет возражать, а не "галлюцинировать" сеттинг по вашему промпту.

- Ты, оказывается, играешь на скрипке?

- Мама считала, что назвать меня Леонардом недостаточно, чтобы меня били другие дети.

Возможно, и попутал. Ирония и сарказм предполагают конструктивную цель, например, выделить жирным логическую ошибку в чьих-то утверждениях. Пример - мой ответ на ваши слова о евреях. А какая цель была у вашего коммента, что именно вы высмеяли своей иронией?

Сводить все к шутке - довольно инфантильно, это, фактически, отказ от ответственности за свои слова. (Ну, ответственность не в уголовном смысле, а так, в общем).

Вообще-то люди делятся на группы по признакам культурной, исторической, языковой, политической и т.д. общности. Эти группы называются в том числе национальностями, партиями, фракциями и религиями. 

Национальностей, якобы, нет, те, кто думает иначе, якобы тупые, но представители одной национальности - умные.

Ясно, зазналась, уже и знать не хочешь тех, с кем начинала. Скоро и про Альберта так скажешь.

Не только, я просто слишком сильно сказал "достойное". Развлекательные или информационные видео могут быть не дерьмом, но и внимательно всматриваться необязательно, можно смотреть фоном, пока читаешь или играешь. Или табуретку починяешь.

Ты стопудово узнала это слово от Гельвича (и не отнекивайся), вот его и читай. А у остальных боллитра - это что-то другое. Максимально размытое понятие, короче, какие такие примеры, лол.

Что естественно: визуал проще для восприятия. 

Но это, одновременно, и проблема аудиовизуала. Не все могут просто сидеть и зырить. Не так уж часто попадается что-то достойное стопроцентной концентрации.

Заманивать людей в мессенджер без сквозного шифрования - это просто безответственно. Мессенджеры нужны не только для просмотра деградантского контента и "привед как дела", люди в них обмениваются коммерческой, рабочей, юридической и личной инфой, безопасность которой в махе просто невозможно обеспечить, разве что, упаковывать в запароленный архив, а пароль передавать через какой-нибудь другой мессенджер. Но большинство пользователей не так подкованны, им невежество еще ой как аукнется, и вы этому потворствуете, еще и налепив в сообщения раздражающих смайликов.

Книги можно слушать, одновременно торча в телефоне 

Все верно, даже самый корявый рисунок мышкой в пейнте имеет ценность, а блоги вида "посмотрите, как ии представляет моего персонажа" в ленте я даже не открываю.

У рыбьев нет зубьев.

Фоновое излучение роя в спокойном состоянии, наверное, недостаточно, чтобы вызвать вихревые токи. В любом случае, я думаю, вы бы тоже не захотели рисковать с планшетом, даже с е-инк.

Так-то ваш тезис вполне разумен, но вы пытаетесь доказать его, критикуя успешный роман, который знают и читают до сих пор. Вряд ли из-за логарифмических линеек, логично?

ГГ выдали на финальный квест фотографию карты.

Защитный шлем нужен был не для защиты от атаки мушек, а чтобы скрыть от них излучение мозга. Тебе не надо защищаться, если враг тебя не заметит))

Насколько я помню, у него там еще инопланетные сигналы расшифровывали суперкомпьютеры с ИИ. Однако, при этом комп для навигационных расчетов там поставили на корабль только к 37-й экспедиции. До этого на логарифмической линейке, наверное, считали. Кстати, картинки "в интернете" у него там были не файлами, а адресной передачей суперхайрез телевизионного сигнала из картинной галереи (рассказ "Пять картин"). Короче, Ефремов очень неровно работал с матчастью.

Во-первых, к этому моменту знали. Во-вторых, зачем повторяться про мозговые волны?

В таком случае будем молиться, чтобы у каких-нибудь инопланетят не было такого же пещерного мировоззрения, как у вас