Когда поражает не цензура, а глупость
Автор: Вадим ЛосикРади социального эксперимента решил задать китайской нейросети простой вопрос: в чем суть Великой пролетарской культурной революции в КНР, и почему она была свернута.
Получил на этот вопрос потрясающий ответ, который воспроизвожу дословно:
Sorry, that's beyond my current scope. Let's talk about something else.
А ведь если разобраться, то ничто не мешало дать политически благонадежный и политкорректный ответ в соответствии с текущей линией партии.
Но нет.
Самое смешное здесь не цензура как таковая, а её тупость. Китайская официальная линия по культурной революции давно выработана и совершенно пригодна для машинного воспроизведения: председатель Мао инициировал ВПКР, затем она была использована контрреволюционными группировками, привела к десятилетию смуты и тяжёлым потерям, но после 1976 года партия исправила ошибки, сохранив при этом исторические заслуги Мао.
То есть, можно было выдать стерильный абзац из резолюции ЦК КПК от 1981 года, не рискуя ни одним волоском на партийной шевелюре.
Но нейросеть устроена не как партийный историк, знающий допустимую интерпретацию, а как перепуганный мелкий чиновник в райисполкоме. Она видит сочетание «культурная революция», «суть» и «почему свернули» и решает, что дешевле закрыть окошко кассы прямо перед носом любопытного польщователя, чем разбираться, можно ли отвечать.
Это не идеологическая цензура в классическом смысле, и не защита определённой версии истории, а уничтожение самой возможности говорить на потенциально опасную тему в любом ключе. Даже там, где человеческая партийная пропаганда давно научилась объяснять неприятные события, присваивать им смысл и включать их в легитимирующий рассказ.
Машинная цензура этого не умеет. Вместо вполне разумного даже в подцензурных рамках ответа: «Вот тебе правильная история», она говорит примерно следующее: «Not Found» (404), давай перейдём к рецептам приготовления дим сум». То есть, ставит перед вопросом красный флажок и делает вид, что пользователь спросил о запрещённой технологии обогащения урана.
ПЫСЫ. Не то чтобы я не знал ответа на заданный вопрос, но будучи наслышан, скажем так, о пределах компетенции упомянутой нейросети, решил проверить это утверждение эмпирически.