Telefaust

Не будь сейчас так фигово с дронами в городе - это мог бы быть неплохой стартап :)

Вот человек нашел лом. Крутая такая, увесистая штука, много чего может. И вот человек пытается жонглировать ломом - регулярно получая по спине и прочим частям тела. Пытается писать ломом, макая его в чернильницу -то чернильницу разобьет, то кляксу посадит, то буква мимо листа нарисуется. Пытается подпоясаться ломом - а он, зараза, не гнется. И, отложив лом, человек пишет грустную статью о том, что все пропало, ломы ни на что не годны, а будущее печально и ломами изувечено.

А за кадром где-то на стройке работники с ломами выполняют задачи с опережением графика.

Извини, но эта статья воспринимается именно так.

Что же по вопросам...

1. Разумеется нет. Любая фактура от нейронки требует верификации, это азы работы с нейросетями.

2. А что такое "живое человеческое сочувствие"? Грустный смайлик под жалобным постом? Что-то другое нынче только в очень узком кругу встречается, в который нейронке не попасть - она не умеет посидеть с тобой на кухне за чаем или не чаем.

3. Уязвимыми делает отношение к жизни, общественный договор, если угодно. Понятие "снежинка" заметно старше нейросетей. А снежинки выросли и стали взрослыми, не перестав быть снежинками.

4. Нет. Тот, кто реально работает с нейросетями, знает, сколько приходится возиться для получения нужного результата. А для остальных есть Шпитцер и его прекрасные идеи, не отличающие сайт от компьютера, но уверенные, что знают, где сидит сатана. Как и раньше, 10% делают, 90% ждут ложечку в ротик.

5. Полностью - нет, фанаты найдутся у чего угодно. Массово - да. Будет масслит, который вполне себе дойдет до генеративной сериальной литературы "клодушка, миленький, а что было дальше-то?". Будут тексты ручной выделки типа нынешнего АТ. Полагаю, поделят рынок примерно три к двум. И будет процент-полтора любителей старой классики.

Возвышение классической литературы держится в основном на двух столпах. Первый - те, кто продрались через тяжеловесность Толстого и выверты Достоевского, потратили время и силы, и сами себе это оправдали величайшей значимостью результата (заметка на полях - это не осознаваемый механизм, людям вообще свойственно считать усталость мерилом результата). Они будут агрессивно топтать любого, кто посмеет назвать старую литературу плохой или устаревшей - потому что иначе как же это, это что же, они на фигню, что ли, силы тратили? Второй - это каскадное образование, "классикой называется то, что обучены называть классикой учившиеся у тех, кого научило считать это классикой предыдущее поколение". Отличным примером может служить "капитал" Маркса или там "Как закалялась сталь", негативно заикнуться про которые еще при моей жизни было ну совершенно невозможно. Сменилась политика, флюгера школ повернулись по ветру - и опаньки, внезапно это уже и не классика, и ругать можно, и читать не обязательно, и вообще.

Если это убрать - останется малый процент тех, кто действительно нашел в этих книгах что-то свое, они и будут читать старую классику. В конце концов, я лично знаком с человеком, который читает и перечитывает Сократа и ему оно нравится.

написанное ручками, не нюхавшее нейросетей, сколько я кидала  своих текстов новых и старых, что-то из классики и т.п., видит как  человеческое.

При этом в ленте "последних комментариев" буквально рядом с этим постом два соседних рассказывают, что стоит писать грамотно, сложными предложениями, не дай бог с деепричастными оборотами - и детектор тут же находит ИИшность.

Все-таки великая битва с нейрослопом - это религия. Даже крестовые походы периодически стихийно собираются :)

Такое и с обычными текстами случается :)

Причем недолго.

Все так, но охота на нейрослоп - это уже религиозное. А жреца, как известно, не переспорить :)

Только запрет на использование ИИ на государственном уровне.

"Назад к колесу и рычагу" (с) Саймак

Помнится, в 90х у нас в конторе это называлось "кофе по-купечески", хе-хе. 

Потому что у длинного промпта процент использования инфы - классическая "ванна", высокие начало и конец с провалом в середине.

Не только. Но большинство - управляемая масса, а уж при показанном образе врага тем более. "Сапогами, сладострастно хакая".

"Энциклопудия" (с) старый бородатый анекдот

Вторая - ОК

Решение давно придумано - Keypass и подобные ему "кольца для ключей". 

В рамках аналогии с рюкзачком ключей - у вас только один ключ. Просто он помнит все остальные ключи. Для кого другого он просто плоская болванка - а когда вы сами вставляете его в замок, он превращается в ключ именно от этого замка. Эдакая программная магия.

Для всех, кроме вас, у вас сложные ключи для каждой двери. Хитрые, в разные стороны поворачивающиеся, разной формы и с разными бородками. Не повторяющиеся, меняющиеся, со всеми буквами и препинаками, да хоть с сюжетом, прологом и неожиданной концовкой. Вы сами можете не знать, каков был ключ именно от этой двери и куда его полгода назад положили - дверь, когда вам она понадобится, получит именно свой ключ и откроется.

А у вас самого - всего один ключ.

"Это не хоббит! Это... хоботяра какой-то!"

Наблюдения за тем, какие пользовательские интерфейсы сочиняют программисты, вообще доставляют немало. Один из старых друзей регулярно имел проблемы с покупкой билетов - различные системы уверенно считали, что в фамилии дефиса быть не может. Другой убил несколько месяцев на замену паспорта - там фамилия испанского происхождения, из двух слов с пробелом. На фоне этих двоих о своей необходимости следить, чтобы вместо е ё не вписали, обычно и не упоминаю даже.

А еще можно вспомнить регистрацию на этом сайте, которая возможна только с ограниченного списка почтовых доменов...

Кто-то верит в плоскую землю, кто-то - что люди не летали на Луну, кто-то еще во что-то. Теперь вот модно верить в то, что есть способы однозначно определить по тексту, человек его писал или нейросеть. Что меня больше всего веселит - все эти неолуддиты, орущие что нейросеть - плохо, что она врет и искажает, хором забывают, что любой "нейродетектор" тоже нейросеть.

(голосом Птицы Додо) Хе-хее...

С Днём! И чтоб ещё неоднократно :)

А Print-on-Demand уже отменили разве? Для микротиражей вроде годное

Ну так на амазоне ограничение то ли три, то ли пять новых книг в день, хе-хе.

Скорее исчерпание участников крестового похода естественным образом, хе-хе

В принципе с ним можно согласиться, если отбросить эмоционально-оценочный слой, которым довольно густо намазан тот текст. Да, поток нейротекстов есть, да, люди социальные существа, нет, оно само никуда не денется, нет, с этим ничего сделать не получится, да, нужно смириться, жизнь теперь такова. Сложно с чем-то из этого спорить. А что человеку от этого некомфортно и он свою некомфортность в каждый абзац вливает в дозах негомеопатических - ну штош, посочувствовать можно, но соглашаться или спорить тут не о чем. Да, человеку от происходящего некомфортно, оно ему не нравится, чему тут возразишь? Нет, мэн, тебе хорошо, ты просто этого не понял? Чушь же.

Скорее всего не будет, согласен. Незачем. 

"Плывущий против течения равно с плывущим по течению несвободен от него; свободен тот, кто плывет куда ему нужно". Не помню чье, но правильное.

Спасибо, повеселили изрядно. Когда литераторы и прочие специалисты в неайтишных областях рассуждают об "автоматической проверке на нейрослоп", им простительно, но когда то же самое начинает двигать человек, называющий себя айтишником...

Видимо, предупреждает, кто сидит внутри. "А кто не спрятался - я не виноват"

Вы совершенно правильно заметили, что "точность будет далеко не 100%". Любые оценки "нейронности" происхождения текста - это сумма неизвестных критериальных оценок, сложенная с неизвестными весами. Иными словами, мы не знаем, почему один текст детектор считает нейро, а другой не нейро, а просто тупо доверяем одной нейронке (!) определять, является ли исследуемый текст продуктом другой нейронки. Историю про различение волков и собак напоминать нужно?

Нету надежного способа определения "нейрогенности" уже написанного текста. Просто нету, что бы ни говорилось о "неточности", "вероятностной оценке" и "проценту успешных определений" - и для айтишника очень странно этого не понимать. И способа оправдаться при ошибке тоже не существует - если нейронке показалось, что ваш текст нейрослоп, вам останется только надеяться, что модератору покажется что-то иное. "Передача модераторам на проверку" не более чем имитация проверки, потому что у модераторов критериев тоже нет, есть пролетарское чутье и ррррыволюционная справедливость. "Я так вижу", что в исполнении нейронки, что в исполнении модератора. А люди любят простые ответы.  

Вы продвигаете мясокрутку, отец Кабани, в уверенности что она полезна на мясокомбинате. 

Если говорить в разрезе техники - то вы приводите один, упрощенный, вариант критериальной проверки. Реальный "нейродетектор" производит проверку по большому набору критериев, совершенно не обязательно аналогичных этому примеру (набившие оскомину длинные тире, например, тоже могут оказаться одним из критериев). К тому же в силу механизма обучения (а не программирования) даже проводящий обучение в подавляющем большинстве случаев не имеет представления о том, по каким именно критериям и с какими пороговыми значениями осуществляется оценка. 

Я не случайно упомянул пример с волками и собаками - он широко известен среди работающих с нейросетями. Нейросеть, которую обучали отличать волка от собаки по фотоснимку, в качестве основного критерия стала учитывать цвет фона снимка; оказалось, что в массиве вполне корректно размеченных учебных кадров одни звери были сняты в основном в зеленом/коричневом лесу, а другие - в питомниках и зоопарках на фоне традиционно светло окрашенных стен. Результат - систематические ошибки в распознавании. Пока еще выяснили, в чем была причина...

Что же до "нейросеть бы не написала" - ниже цитата из соседнего окна, Perplexity Pro:

Большие языковые модели (LLM) работают, анализируя огромные массивы текстов и выявляя статистические связи между словами, фразами и контекстами. Во время обучения модель не запоминает готовые ответы в виде базы фактов, а учится предсказывать наиболее вероятное следующее слово или фрагмент текста. Благодаря множеству параметров и механизму внимания она может учитывать дальний контекст: например, понимать, что слово ПАПОРОТНИК в техническом описании может быть названием внутреннего проекта, кодовым именем сервиса или частью метафоры, а не просто обозначением растения.

Когда пользователь задаёт вопрос, LLM разбивает запрос на токены, обрабатывает их через последовательность нейросетевых слоёв и формирует ответ поэтапно, выбирая продолжения с учётом инструкции, предыдущего диалога и вероятностных оценок. Поэтому модель способна объяснять сложные темы, писать код и структурировать документы, но может ошибаться или уверенно формулировать недостоверные сведения. В практических системах LLM полезно дополнять поиском, доступом к актуальным данным и проверками: как ПАПОРОТНИК нуждается в подходящей среде для роста, так и языковая модель даёт наиболее надёжный результат при качественном контексте и ясной постановке задачи.

И вы допускаете очень распространенную ошибку, на которой, вообще говоря, и стоит нынешний крестовый поход против нейрогенеренного текста. Ни один детектор не скажет, на сколько процентов текст сгенерированный или какая часть текста создана нейросетью. Все, что этот детектор может сказать - это "текст, интегрально по всем критериям, на Х% похож на тексты, созданные нейросетями". Ну или в свете последних европейских законотворческих инициатив - "частотность букв и буквосочетаний в этом тексте на 92% совпадает (или на 8% отклоняется) от маски водяного знака нейросети такой-то". Не "на 80% нейроген", а "похож на 80% на образцы нейрогена, на которых обучен детектор". Это крайне существенная разница - которая, предсказуемо, отбрасывается массовкой любителей простых решений. Для массовки такой ответ - непробиваемое "детектор сказал, что это нейроген, аж на 80%!!!". 

Из этого подхода вытекает и следствие: невозможность ни валидировать эту оценку, ни опровергнуть ее как ошибочную. Если, условно, мой текст ошибочно опознан как нейросетевой - у меня нет никаких инструментов скорректировать эту ошибку. Да, я могу апеллировать к модератору - но у модератора, точно так же, нет критериев для выяснения, как я это писал. Фактически модератор может сказать "мне кажется, что это нейроген", не более. Но для массовки это будет "и детектор подтвердил, и модератор подтвердил, ТОЧНО НЕЙРОГЕН!!!".  

И никакие формулировки, мягкие или не очень мягкие, этого не изменят. Крестовый поход уже идет, однако. Любая формулировка будет читаться бинарно. Поздно объяснять воодушевленным массам, что Папа имел в виду не совсем то, и вообще смысл был другой... завертелась мясокрутка. Даже за высказанную очевидную мысль, что "плохо написанный текст не обязательно написан нейронкой, да и обратное верно не всегда", автору прилетает от всей пролетарской души, видел неоднократно. 

PS. Ничего страшного, я не смотрю на плюсы-минусы. Своих текстов у меня тут не лежит (да и не пишу я художественных текстов), попадание на главную и всякие комстатусы не важны совершенно, а платить за понравившиеся книги мне никакие минусы не мешают. Кстати, там сейчас +5, а минус почему-то у вас, поправил.

А схема сюжета - это что?

Большевики в свое время пытались. "Долой рукопожатия!". Даже при том, что у них была власть и возможность объявить что угодно буржуазным пережитком - не получилось...

Тут про Литрес пишут, а не про Литнет

(печальным тоном) и ничего нельзя купить на три рубля...

Именно. Роботу неоткуда узнать, что в городе Питере есть геотоп "Пять углов", если ему это не вписали в базу. А ни один автоматизатор не станет объяснять заказчику, что да, вы уволите пять операторов, но наймете десять более дорогих спецов по настройке робота - он же так слона не продаст :)

ИИ Мегафона направляет к оператору на втором шаге, если назвать его матерно и грубо потребовать оператора. Самому неприятно, но работает.

в fb2 формате я встречал и книги со сносками внизу отображаемой страницы, и книги со сносками в конец главы, и даже книги со сносками в конец книги. Так что технология позволяет. Почему авторы не пользуются - вопрос другой (и, возможно, не к авторам, а к движку АТ).

А что, бумажных книг со сносками не бывает? 

Из определенного подмножества их. Тех, кто играет в основном в соответствующую категорию игр. 

От игрока в симс или, скажем, в тот же плейнскейп в этом плане пользы намного меньше, чем от игрока в авиасим.

Но от Опытного Старшего Товарища, который вообще не соотносит "эти кнопочки" с картинкой на экране, пользы будет еще меньше, хе-хе

Была еще в дографические времена "Аризонская тропа" на СМ машинах. Там нападение на потенциальную добычу - это пять букв, напечатанные на время. Не успел - "Вы промахнулись, и ваш обед убежал"

К электронной книге - тоже. Потому сноски и делают текстом.

"Нарисуй лошадку", ага

Как это где? Латте разливать. На соевом молоке.

"Хлам! Лишние десять фунтов..." (с) Ник Еще-не-Смок Беллью