Интеллектуальное оглупление* (ХиЖ), (нейросети)
Автор: Игорь Ан*Под таким заголовком в майском номере журнала "Химия и Жизнь" вышла статья за авторством А.Гурьянова
Всем привет!
Сегодня суббота, а это утро джаза на виниле и статей из научно-популярных журналов.
Из джаза сегодня "Glenn Miller and his Orchestra, In The Mood" записи 30-40 годов, выпущенные "Мелодия" в 1985г. (в моно)
А из научпопа, как не сложно догадаться - "Химия и Жизнь" (майский номер этого года) и статья из заголовка.
Собственно, чего решил написать-то...
Все вот тут спорили про нейросети и авторов, которые ими пользуются. И вдруг интересная статья. Приведу только несколько отрывков, кому будет интересно, внизу дам ссылку на полный текст.
Что пишет автор? Дальше цитаты:
Когнитивный долг
Сегодня пользователи интернета применяют большие языковые модели регулярно, зачастую каждый день. Для живого интеллекта в этом есть свои плюсы и минусы. Их выявили ученые Массачусетского технологического института. Они экспериментально определяли когнитивную цену, которую платят активные пользователи ИИ.
В опытах приняли участие полсотни бостонских студентов и взрослых научных работников возрастом до сорока лет. В задании не было ничего необычного. Всех попросили за 20 минут написать короткие сочинения, например, об этике, филантропии, скрытых недостатках широкого выбора и т.п.
Во время эксперимента психологи снимали электроэнцефалограммы мозга с помощью миниатюрных электродов, присоединенных к головам участников. Это позволило измерить активность трех десятков различных областей мозга и определить его характеристики, в частности связность нейронов.
Участников поделили на три группы. Первая — могла использовать большую языковую модель ChatGPT, вторая — поисковик Google, третья — записывала только свои мысли. Испытания провели четыре раза с интервалом в месяц. После трех эссе участников попросили переписать одно из предыдущих. При этом первая группа не должна была использовать ChatGPT, а самостоятельная группа — наоборот.
Оказалось, что эта группа имеет самые сильные и разнообразные нейронные связи, на втором месте были пользователи поисковика. Последнее место заняли пользователи ИИ, которые резко отличались в худшую сторону.
Тот, кто работал сам, показывал высокую связность, особенно альфа-, тета- и дельта-ритмов, которые коррелируют с креативностью, разнообразием идей, загрузкой памяти и качеством речи. Эти пользователи были более любопытны, сильнее включены в задачу и удовлетворены ее выполнением. Они запоминали больше информации, а в последнем эксперименте лучше формулировали запросы к ИИ.
Пользователи ChatGPT из первой группы при выполнении заданий показали вполовину меньшую связность нейронов и самую низкую активность мозга. Испытуемые мало запомнили, слабость их альфа- и тета-волн отражала отсутствие глубокой памяти.
Участники этой группы демонстрировали низкий уровень внимания и контроля выполнения задания. Многие просто задавали чат-боту серию запросов по теме сочинения и на этом заканчивали работу. С каждым следующим сочинением пользователи становились все ленивее и к концу эксперимента просто копировали ответы языковой модели. Когда их просили воспроизвести то, что они писали несколько минут назад, 83% из них не могли восстановить даже строчки. В то же время пользователи ИИ считали себя авторами текстов.
Сочинения разных пользователей ИИ на одну и ту же тему выглядели почти одинаковыми. В них было много фактов, дат и имен, но мало оригинальных мыслей, в одинаковых выражениях излагались одни и те же идеи. Два квалифицированных преподавателя английского назвали эти сочинения бездушными. За четыре месяца работы группа проявила тенденцию к снижению разных когнитивных показателей.
Эксперимент заставил ученых предложить термин «когнитивный долг», характеризующий ситуацию, когда мозг выполняет меньшую часть интеллектуальной работы. Подобно обычному заемщику когнитивный должник получает удобства здесь и сейчас, но платит за них позже. И, по мнению авторов исследования, платит своей неспособностью независимо мыслить.
Они пришли к выводу, что языковые модели вредят обучению, особенно молодых пользователей. ИИ снижает их способности к критическому мышлению, поэтому его стоит использовать в основном для активного поиска, например мозгового штурма, и не доверять слепо при анализе информации. Такой подход позволит избежать снижения когнитивных способностей, в частности способности к обучению.
Ученые с сожалением обращают внимание на то, что общество все больше полагается на ИИ для немедленного решения проблем в самых разных областях. Авторы отмечают и другую вредную тенденцию. Они считают, что наверняка скоро найдутся официальные лица, которые позволят применять чат-боты уже в детском саду для обучения детей. И это будет не просто вредное, а разрушительное решение. Самый большой риск ИИ несет развивающемуся мозгу.
Ничего не напоминает? Меня это даже пугает, слегка :)
Особенно, если взглянуть на плохо доработанные нерокниги.
Правда, надо отдать должное автору статьи, он уточняет:
И все же вряд ли разумно обобщать результаты небольшого исследования по написанию сочинений. В нем участвовали студенты и сотрудники нескольких академических учреждений одного региона — выборка явно недостаточная. Для глобальных выводов нужны разные языковые машины, участники разных возрастов, с разным образованием, профессией и личной историей. Есть свои ограничения и у ЭЭГ как метода исследования мозга.
Собственно, ничего нового и никаких секретов статья не раскрыла, но экспериментальные подтверждения всегда доказывают чуть больше, чем теоретические.
К слову, после банкета на АТ Форуме, у меня вышел совсем коротенький разговор с Сергеем Вишневским по поводу неросетей. Неплохо поговорили, надо сказать, но выводы сделали неутешительные (особенно Вишневский)
И вот сегодня утром эта статья.
Не знаю, кому как, но мне мой мозг очень дорог. Я им зарабатываю на жизнь. Так что думайте сами, решайте сами, глупеть или не глупеть.
Статья в ХиЖ большая, и там есть еще много чего, так что приведу ссылку для самых интересующихся:
Вот такие размышления в субботнее утро под Глена Миллера.
Всем добра!