Киберпанк, который мы заслужили

Сегодняшняя новость: "Рособрнадзор планирует пропускать через нейросеть работы со всех регионов России на ЕГЭ со следующего учебного года, сообщил руководитель Рособрнадзора Анзор Музаев.

"Да, мы планируем всю страну осматривать, пропускать через нейросеть. И, конечно же, окончательное решение принимает не нейросеть, она только фиксирует, ставит метки, а метки уже человек модератор просматривает и даёт окончательный вердикт, действительно там был телефон или шпаргалка или нет", сказал Музаев."

Переводим на русский - отныне человек, по сути, не оценивает работы учащихся, а только сверяет, насколько корректно ИИ проставил метки. То есть, педагог окончательно убран из экзаменационной цепочки, роль кожаного мешка - чисто операторская. 

С чем я вас и поздравляю. А по телеграм-каналам проскакивала интересная информация. Конспирология, но тем не менее... О том, почему одна могучая страна с могучей разведкой на днях прохлопала нападение людей на парапланах. Говорят, дело в том, что разведка той страны собирала столько данных, что решила облегчить себе жизнь и отдать обработку данных ИИ. 

Сейчас выяснилось, что данные из местности, где живут люди-парапланы, ИИ оценивал, как низкоприоритетные, поскольку регион он оценивал, как потенциально не самый опасный. Такая, вот, ошибка концепции.

Отчасти, это отличная иллюстрация того, что бывает, когда решаешь, что мозговую мышцу лишний раз напрягать не стоит.

Кроме того, это и иллюстрация к тому, каким может быть "эффект наблюдателя". О нем, да и о многих других проблемах, связанных с ИИ, я как раз сейчас пишу в своем новом тексте "Объект Фенрир". И, блин, оказываюсь прав. 

Думаю, скоро мы увидим и последствия других развеселых корпоративных экспериментов по использованию ИИ в коммерческих целях. И все эти последствия будут для человека очень херовыми.