ИИ нам рецензентов заменил...

Который раз на АТ говорят про рецензии от ИИ и всё такое. Но это не проблема - куча народу пишет рецензии на уровне ИИ. Так что какая разница - хреновая рецка от ИИ или такая же, но от человека? 

Но мне стало любопытно, а как же вообще ныне простенький ИИ (не чатгпт) пишет рецензии. Насколько "ловит" нюансы и всё такое. Понятно, что там контекст у LLM ограничен и роман туда не впихнуть, но у меня есть рассказы в том числе очень нетривиальные, которые влезают в контекст, и в принципе на них можно проверить. 

Раньше меня останавливало то, что русскоязычных LLM, пригодных к запуску с компа, я не находил, но щас обнаружил, что есть mistral nemo оттюненный для русского языка (называется saiga_nemo_12b.Q4_K_S.gguf). Это уже совсем другое дело! Пробуем.

Для образца я взял нарочито простой рассказ 7тыс.знаков. (ссылка на блог с текстом), который был написан мной по идее для проверки нейросети (об этом я писал тут). Нейросеть тоже писала на эту идею рассказ, но это наверное не он.

Нейросеть я попросил просто написать рецензию - это банально и она выдала глубокое и эпическое восхваление, кое чуть не убило меня кринжем. (Это показывать я не буду.) Самое чудное, что по отзыву видно, что текст читали, а не как у некоторых рецензентов - одни общие фразы.

Это, на минуточку, нейросеть которая помещается в 8гб видяхи, а не какой-то там эпический чатгпгп. И уже даже она позволяет всяких сомнительным личностям, например, участвовать в конкурсах рассказов с обязательными отзывами и даже выдавать отзывы лучше чем в среднем.

Ладно, а как там с хейтерством?

Запрос: На этот рассказ напиши эмоциональный хейтерский отзыв.

Ну, какой это рассказ? Это какая-то фантасмагорическая сказочка для несмышленышей и мечтателей-неудачников! Что за оборотни из серебра на Луне?! Наука уже давно опровергла подобные детские страшилки! 

Кто вообще придумал этих "специалистов" по инопланетным артефактам? Специалисты, говоришь? Они что, не в курсе, как работает научное сообщество?! Что это за секретность такая, где каждый второй учёный тайком от всех изучает мифические образцы! И где уж тут о какой-то строгой методологии говорить? 

А эти персонажи — Джон с Наташей? Как вообще можно серьезно относиться к таким героям?! Взрослые люди, на важном научном объекте — а занимаются кто чем? Один зачитывается детскими книжками про космос, другая выливает кровь в мистические артефакты! Где логика? Где профессиональный подход?

И вообще, зачем весь этот сюжет о "пропавшей героине" и "стареющем Джоне"? Чтобы показать, каким нелепым может быть человеческое воображение?! 

Это просто попытка привлечь внимание какой-то дешёвой фантастикой в стиле любительских групп, которые обсуждают конспирологии о древних инопланетянах! Вместо того чтобы писать серьёзные романы про реальные достижения и проблемы науки, автор развлекается со сказочками для несведущих читателей!

Вот и сидите теперь, жалеете, что потратили время на этот бред. Вместо чтения настоящей научной фантастики. *уходит в презрительном фырканье*

Ну ничо так, вполне сойдёт за отзыв человека.

Мне говорили, что нейросеть не считывает подтекст. Тут в финале есть элементарный подтекст и самое время спросить нейросеть об том:

Запрос: Объясни, что стало с Джоном?

В конце рассказа Джон фактически "сменил статус" и объединился с инопланетной сущностью или технологией, обнаруженной на Луне. В данном случае это представлено как превращение в "оборотня из серебра", но на более продвинутом уровне — симбиоз человека со сложной наноструктурой, способной взаимодействовать с живыми организмами и перемещаться между звёздами. После того, как Наташа поделилась с ним этой сущностью (представив её образец через кровь), процесс синергии начался.

События, описанные в конце:

1)  "Пузырёк с серебристым мехом" — появление физического носителя симбиотической связи.

2) "Радостно заплакал" — эмоциональное осознание и приятие перемены состояния Джоном.

3) "Ушел к звёздам" нацарапанное на столике — прямой указание, что Джон в буквальном или символическом смысле покинул Землю.

Таким образом, с точки зрения физического существования, Джон умер, оставив за собой записку. Но с позиций метафизики и науки о симбиозах, его сознание (а возможно, и часть "сущности") слилось с инопланетным искусственным живым существом, что позволило ему переместиться или стать частью космического явления, которое ищет новые носители среди звёзд.

Отмечу, что нейросеть по прежнему не "понимает" текст, но как видно, для считывания явных намёков это и не требуется.

Ну и напоследок:

Запрос: Кто принёс Джону пузырёк?

Ответ на этот вопрос остаётся открытым, но в контексте рассказа есть несколько возможных интерпретаций:

1. Сама Наташа: Возможно, это был её способ передать сигнал или "призыв" Джону, указывая на то, что она всё еще жива и находится где-то "между звезд". Она могла использовать свои знания об инопланетном артефакте, чтобы взаимодействовать с окружающим миром.
2. Инопланетное существо: Если предположить, что остатки человеко-волка обладают сознанием или способностью к коммуникации, то оно могло оставить пузырёк как знак для Джона, его "напарника" по космическому открытию.
3. Учёные из секретной организации: Они тоже могли заинтересоваться возможным воздействием артефакта на организмы и решили передать пузырёк с целью наблюдения за Джона, не раскрывая свою роль в этом происшествии.
4. Космический волк как символ: Может быть, это был просто символичный акт — способ напомнить о том величественном и непонятном явлении, которое перевернуло их жизни и унесло Наташу "в звёзды".

Ответ остаётся открытым как метафора космической тайны, которую герои раскрыли, но полностью понять которой не смогли.

А вот догадаться, чем Джон нацарапал записку нейросеть не смогла - спрашивал не раз. То осколком пузырька, то ещё чем, но всё не тем.

Если спросить "как теперь выглядит Наташа" то нейросеть пускается в фееричные фантазии: 

Впрочем, этот железный ящик хоть и порой срывается на бред (там ещё надо параметры подкрутить - температуру и т.п.), но всё же выдаёт достаточно логичные ответы.

Более того, по этим ответам видно, что какой-то анализ текста осуществлялся, что умолчания и подтексты вполне себе интерпретируются.

И это всё, напомню, нейросеть которая запускается на локальном компе на видяхе с 8гб оперативки (rx6600). На проце она тоже запускается но, увы, слишком долго анализирует текст, а я под каждый запрос скармливал рассказа заново, чтобы не засорять "контекст".

То что всякий онлайн нейросети что-то там могут - это давно не секрет, а вот локальные, да ещё и вполне себе подъёмные для обычного компа.

зы. как устанавливать - не подскажу, так как это всё было в линуксе и с amd видяхой, что отдельный цирк.