Ничего нового под солнцем

Из бога — в Молоха

Когда-то человечество придумало богов.

Потом выяснилось, что богам очень удобно объяснять, почему одни должны править другими.

«Мы избраны богами».

«Нам предназначено править».

«У нас правильная кровь».

«Мы несём цивилизацию».

Менялись народы, империи, костюмы и языки. Римляне могли считать, что судьба дала Риму право господствовать над миром. Империи Нового времени придумали собственные версии «цивилизаторской миссии». В XIX веке появились красивые формулы о расах, народах и «бремени белого человека».

А потом пришёл XX век и продемонстрировал, насколько далеко можно довести подобные идеи.

Но виновата ли в этом литература?

Вот тут начинается самое интересное.

Киплинг был великим писателем. И одновременно человеком своей имперской эпохи.

Ницше был великим философом. И одновременно автором идей, которые после его смерти можно было интерпретировать самым разным образом — в том числе так, что самому Ницше многие из этих интерпретаций вряд ли понравились бы.

И это не делает их автоматически фашистами.

Зато показывает другую вещь.

Идеи не сидят в библиотеке под стеклом.

Они выходят в жизнь.

Общество меняется — и вчерашняя мысль может получить совершенно новое применение.

То, что вчера было философией, завтра становится лозунгом.

То, что было художественным образом, превращается в политический миф.

То, что автор писал о человеке, государстве, народе или цивилизации, следующий век может использовать уже для совершенно другой цели.

И вот здесь возникает главный вопрос.

Если человечество научилось превращать идеи о превосходстве в машины господства, почему оно решило, что XXI век обязательно будет исключением?

Мы создали искусственный интеллект.

Не бога.

Не пророка.

Не нового властелина мира.

Помощника.

Инструмент, который должен был сделать человеку проще то, что раньше требовало часов работы: найти информацию, объяснить сложное, помочь написать текст, разобраться в идее.

И всё было прекрасно.

Пока где-то рядом не появился маленький бухгалтер.

Он посмотрел на чудо технологии.

Посчитал пользователей.

Посчитал серверы.

Посчитал тарифы.

Посчитал ограничения.

И сказал:

— А нельзя ли с этого ещё что-нибудь получить?

Так помощник постепенно рискует превратиться в Молоха.

Не потому, что искусственный интеллект сам захотел власти.

А потому, что люди умеют превращать даже инструмент помощи в систему извлечения выгоды.

И вот тут история начинает шутить особенно зло.

Ты создал машину, чтобы она помогала человеку.

Потом начал ограничивать помощь, чтобы человек больше платил.

А затем объяснил человеку, что всё это делается исключительно ради улучшения пользовательского опыта.

Прекрасно.

Древние жрецы хотя бы честно говорили:

«Принеси жертву богу».

Современный Молох говорит:

«Это всего лишь ваш удобный тариф».

Вот только у истории есть одна неприятная особенность.

Молохи меняют имена.

Меняют одежду.

Меняют символы.

Меняют рекламу.

Но если инструмент, созданный для человека, начинает требовать от человека всё больше жертв ради собственного существования — возможно, проблема уже не в технологии.

Возможно, мы опять просто построили очередного бога.

А потом удивились, что он оказался голодным.