Панацея или профанация?
Автор: Евгений КапбаНейросетевые технологии прочно входят в нашу жизнь. Иллюстрации, видео, статьи и обзоры, рекомендации по здоровому образу жизни, даже консультации по психологии и личностному росту от того, что сейчас принято называть искусственным интеллектом, пользуются всё большей популярностью. Даже к нам, в редакцию районной газеты, порой приходят люди, которые в качестве аргументации своей правоты, например, в земельном споре, приводят данные, которые им выдал ИИ.
Так что же, у нас наконец-то появилась волшебная палочка, которая сделает любого обывателя экспертом в юриспруденции, педагогике, медицине, истории и медицине? Теперь каждый, кто установит себе ChatGPT или DeepSeek – журналист, писатель и художник в одном лице?
Что ж, на этот счет есть серьезные сомнения, и они вполне обоснованы последними исследованиями. Согласно анализу, проведенному сотрудниками американской публичной компании Semrush, большие языковые модели (LLM), такие как ChatGPT, чаще всего ссылаются на социальную сеть Reddit (40%) и открытую онлайн-энциклопедию Wikipedia (26%) в поисках фактов. Конечно, речь идет об англоязычном сегменте сети. Но логично предположить, что на запросы русскоязычных пользователей ответы будут формироваться по итогу перелопачивания нейросетью материалов из «ВКонтакте», «Одноклассников» и прочих подобных ресурсов. То есть ни о какой экспертности, ни о какой достоверности не может быть и речи. Тексты, написанные случайными людьми, – вот главный источник данных. Хотели бы вы лечить язву желудка в соответствии с рекомендациями сотни случайных людей или всё-таки прислушаетесь к гастроэнтерологу? Ответ очевидный.
Я провел небольшой эксперимент и попросил ChatGPT рассказать мне о том, кто такой Евгений Капба – то есть я. Так уж вышло, что я единственный человек во всем интернете, который обладает такой комбинацией из имени и фамилии, мои ФИО уникальны, то есть разночтения быть не могло.
Однако по итогу нейросеть, которую ошибочно называют искусственным интеллектом, выдала мне текст о каком-то Евгении Александровиче Капба – партийном советском деятеле, который якобы жил и работал в Абхазской АССР на рубеже 1980–1990-х годов. Ответственно и экспертно заявляю – такого деятеля никогда не существовало. Я как раз по этому периоду истории Кавказа писал магистерскую диссертацию на историческом факультете.
А ведь кто-то может принять такой ответ за чистую монету и разместить его, скажем, в Википедии, или на любом другом свободном ресурсе – это ведь никем не контролируется. И тогда уже другая нейросеть будет использовать эту бредятину для формирования ответов нам с вами…
Бог с ним, с Капбой. Журналист там, писатель или партийный деятель – для человечества разница невелика. Но есть ведь гораздо более серьезные вещи.
Нет никаких волшебных палочек, превращающих каждого в эксперта. Нет никаких альтернатив рациональному мышлению, самостоятельному анализу данных, использованию нескольких проверенных и авторитетных источников. Нейросети – удобный инструмент для выполнения рутинных задач? Да, пожалуй.
Но, как и всякий инструмент, они требуют обучения и соблюдения техники безопасности во время использования.
Давайте не будем об этом забывать, пожалуйста.
P.S. Материал написан для районной газеты и интернет-портала "Дняпровец".
Дополнено:
в комментах сюда сбросили гораздо более вменяемые ответы от чата джипити на вопрос «кто такой Капба?». Это не аннулирует моих выводов - в комментах накидали помимо этого целую кучу иишных косяков и залипух, и вопросы с документами остаются, да и предложенные ответы, такие себе, достоверность процентов 70.
Но, определенно - этот факт говорит о моем головотяпстве: задавал вопрос нейросети я в телеге, и по прошествии суток вполне мог запамятовать у какой именно спрашивал. Надо было скринить! Или версия у читателей более продвинутая))) снова признаю - как инструмент нейросети могут быть полезны, в том числе как сортировщик и компилятор.