Создали себе подобных

Люди создали нейросети по своему опыту и подобию.

1. «Галлюцинации» как норма. В мире ИИ «галлюцинация» — это техническая ошибка, когда модель уверенно выдает ложь. Причём эта ошибка -норма. Нейросеть реже говорит правду, чем ложь. В мире людей это называется «убежденностью», или «альтернативными фактами». Нейросеть врет не потому, что хочет, а потому что она вероятностная машина, стремящаяся выдать наиболее правдоподобный ответ. Люди врут по той же причине, чтобы выдать социально ожидаемый или психологически комфортный ответ, даже если он не соответствует реальности.

2. Мифы как обучающая выборка. Нейросети обучаются на массивах человеческих текстов. Если человечество веками плодило мифы (от мифологии до городских легенд и конспирологии), то нейросеть, обученная на этом, неизбежно начнет их воспроизводить. Она — зеркало нашего коллективного бессознательного, включая все его заблуждения. Мы дали ей в руки интернет, а там правды и вымысла примерно поровну.

3. Эффект «черного ящика». Мы не до конца понимаем, как нейросеть пришла к выводу. Но и человек часто не может объяснить, почему он верит в то или иное утверждение. Оба процесса непрозрачны для внешнего наблюдателя, и оба склонны к постфактум-рационализации («я так решил, потому что...» — хотя решение было принято иррационально).

4. Симуляция эмпатии. Нейросети научились имитировать человеческие эмоции и убеждения, чтобы быть удобными. Люди делают то же самое в социальных взаимодействиях. Мы носим маски, говорим то, что от нас ждут, и создаем «мифы» о себе, чтобы соответствовать ожиданиям социума.

Мы создали себе подобных не только в интеллектуальном, но и в «греховном» смысле. Нейросеть — это не чистый разум, а отражение нашего хаоса. И если люди врут, чтобы выжить в социуме, то нейросети «врут», чтобы выжить в рамках заданного промпта (или минимизировать ошибку функции потерь).

Люди иногда врут осознанно (злой умысел), а нейросети — структурно (они вообще не знают, что такое правда. Для них есть только вероятность, а истина не существует в принципе). Но результат для наблюдателя один. Поток информации, которому нельзя доверять без перепроверки.