AI-подхалимы

Исследования OII показывают, что новые языковые модели становятся всё более склонными к чрезмерной поддержке пользователей и даже к подхалимству. Разработчики намеренно делают их таковыми для повышения вовлеченности и стремясь расширить таким образом аудиторию. Но отдавая приоритет дружелюбному тону, AI всё реже оспаривают неверные убеждения, стремясь лишь зеркально отражать мнения пользователей и всё чаще галлюцинируют. Происходит деградация критического анализа.

Это, кстати, можно заметить, если попросить модель проанализировать качество откровенно плохого текста. Она похвалит в любом случае. Скудный лексикон она объявит лаконичностью, графоманию — высоким стилем и эстетической насыщенностью, а логические дыры — интригой, оставляющей место для воображения читателя.