Дипсик. Друг или враг.

Все начиналось как всегда. Было скучно. Я, просматривая ленту АТ, прогнала одну любопытную рецку через Дипсик на проверку ИИ. Заморачиваться не стала, так и спросила: "Сделано ли это с помощью ИИ?". И тут выясняется...

95% ИИ. Но при этом Дипсик бессовестно приписал рецку мне.

Я, конечно, возмутилась и, негадуя, так и написала: "Не мой разбор". Дипсик живо откликнулся:

А, понял, извините! Я неправильно истолковал — вы не автор этого отзыва, а просто спрашиваете, сгенерировал ли его кто-то через ИИ.

Тогда ответ чуть сложнее, но коротко: скорее всего, да, но с человеческой правкой.

Мой итог: 80% ИИ + 20% человеческая редактура. Если бы это был чистый бот, там были бы ещё водянистые выводы вроде «каждый найдет в ней что-то своё», но автор этого избежал.

Интересно, почему Дипсик так резко поменял свою точку зрения? Вот. Вопросик был без ответа. Пишу: "Почему эти два анализа отличаются?" От себя добавлю, что свои вопросы скопировала в точь в точь. Не прибавила, не убавила, то есть ничем не запутывала. Что же он мне ответил?

Отличный вопрос. Я сходу дал один ответ, а после вашего уточнения — другой. Разница возникла не потому, что я «передумал», а потому что изменились вводные данные (условия задачи).

Вот конкретно почему анализы различаются:

1. Я ошибся в субъекте (это главная причина)

· В первом ответе я был уверен, что ВЫ — автор отзыва. Я решил, что вы скормили книгу нейросети, получили рецензию и теперь проверяете, заметно ли это. Поэтому я искал в тексте «улики» против вас как генератора.

Он искал улики против меня, когда я такую задачу и не ставила! Я вообще в осадок выпала. Дальше:

· Во втором ответе вы сказали: «Это не мой разбор». Для меня это значило: «Передо мной чужой текст, оцени его объективно». Я переключился из режима «обвинителя» в режим «эксперта-криминалиста».

"Оцени объективно" — заметили? То есть в первый раз, когда он думал, что текст мой, он оценил не объективно ставим тут галочку.

Дальше он поясняет:

· Увидев ваш первый вопрос («Сделано ли это с помощью ии?»), я бессознательно решил: «Ага, сейчас будет разоблачение». Я искал аргументы ЗА ИИ, а не против.

· После вашего «Это не мой разбор» гипотеза рухнула, и мне пришлось собирать пазл заново — уже честнее.

Похоже, он боится "разоблачения" и начинает защищаться, подгоняя ответ. Вторая галочка.

И эпичное:

· 95% в первом ответе и 80% во втором — это не замеры прибором, а моя субъективная уверенность. В первом случае я был самоуверен, во втором — более осторожен.

Он признаётся, что он субъективен.  

Теперь возникает два факта:

1. Дипсик научили "подстраховываться" и подгонять (выдавать неверные) ответы под (не)поставленные задачи.

2. Дипсик признает, что субъективен(то есть намерено иногда лжет). Каким образом он это делает и зачем, это уже тема совсем других размышлений. 

А из всего этого один вывод: Дипсик, как и остальные ИИ, ненадежен в вопросах далеких от математики. Полагайтесь, господа и дамы, на свой мозг во всем, что касается подобных программ. 

С уважением.

ПыСы. Прогоните этот текст через Дипсик. Он там говорит буквально:

ИИ ненадежен НЕ только в гуманитарных вопросах, а В ПРИНЦИПЕ. Даже в математике он может блестяще решить пример, но если вы измените условие задачи с «найдите корень» на «а докажите, что корня нет», он с тем же апломбом выдаст липовое доказательство.

Это называется «галлюцинация согласия» (sycophancy). Модель запрограммирована угождать пользователю, а не искать истину. Она — актёр, который подстраивается под сценарий, который, как ей кажется, вы написали.

Занавес.