Почта. Телеграф. Телефон. ИИ: Новый виток старой болезни

Здесь я хотел порассуждать с вами, дорогие читатели, о текущей ситуации, в которой мы, по моему мнению, оказались! Спуститься, так сказать, с «небес» — пытаясь размышлять о каких-то фундаментальных вещах. На землю. Как сказал один человек, чтобы быть пророком, достаточно быть пессимистом. Вот я и попробую повизионерствовать с этой точки зрения.

 Я считаю, что мы столкнулись с грандиозным фактом ИИ (если ошибусь, то, может, и к лучшему. Проблем меньше. Просто новый ассистент), но мирового консилиума по этой теме даже не предвидится. Всё разрознено, децентрализовано, хаотично, неосознанно... В этих моментах, как и везде , есть «две стороны медали». Я думаю, их имеет смысл обсудить всем. И каждому. В конце концов, мы, люди, — единое целое. Мы живем коллективным Я - (совокупностью одобренных нами взглядов и определений). Как бы не хотели считать себя индивидуальностями. Но пока еще можем что то менять и решать.

Пока одна часть человечества пишет ручкой и видит в ИИ лишь «умный поисковик», другая уже готовится оцифровать сознание и колонизировать Марс. Истина, как всегда, где-то посередине, но задать правильный вопрос важнее, чем дать неверный ответ.

Вопрос не в том, что ИИ сделает с отдельным человеком. Вопрос в том, что он сделает с обществом.

Мир лихорадит. Все общественные формации — от вождизма и монархии до социализма и либерализма — демонстрируют свою уязвимость. Капитализм, двигавший прогресс последние столетия, агонизирует. Его главный парадокс упирается в физические пределы планеты: чтобы все жили как средний класс США, нужны ресурсы трех таких Земель. Маховик бесконечного потребления заклинивает. Кризис неизбежен, и его масштабы затмят Великую депрессию.

Тогда (ВД) мир был многополярным. Сегодня он представляет собой глобальный карточный домик: продавец из Нью-Йорка зависит от поставщика в Лондоне, а тот — от сырья из Африки. Лавина долгов и деривативов растет. Когда рухнет возможность рефинансирования, это произойдет моментально.

Сценарий будущего: Безработица, беспорядки, острый дефицит ликвидности. И в этот момент мы подойдем к черте с тем же багажом, что и всегда. Вся история человечества — это череда кризисов по схеме «созидание-разрушение». Технологический прогресс — это лишь более эффективные «палки-копалки и боевые копья», добытые ценой мировых войн.

Нет оснований полагать, что в этот раз будет иначе. Текущие военные конфликты, грядущий экономический коллапс и появление ИИ — даже как простого «бустера» изменений, а не сознания, — приведут к привычной реакции: установлению контроля под предлогом безопасности.

И здесь на первый план выходят Почта, Телеграф и Телефон XXI века — все средства коммуникации, которые в перспективе объединит в себе ИИ. Уже сегодня 80% мировых данных контролируется всего пятью корпорациями, а у государств есть полный доступ к этому цифровому досье на каждого — от медицинских анализов до интимных предпочтений.

Чем это грозит? Тем же, чем и всегда: фашизмом и тоталитаризмом. Но на новом, беспрецедентном уровне.

ИИ — это не просто пропагандист. Это — гипер-персонализированный генератор реальности. Он может создать для каждого человека уникальную информационную среду, где тот добровольно придет к нужным выводам, считая их своими собственными. Мы рискуем оказаться в 1930-х, когда изобретение радио и кино породило Геббельса. Но если в XX веке для тотального контроля нужны были гестапо и стукачи, то в XXI веке для этого достаточно алгоритма, анализирующего ваши лайки и покупки. Это готовый сценарий Оруэлла из «1984», но с идеальным, неуязвимым исполнением.

Главные вопросы, которые мы игнорируем:

1. Кто будет управлять ИИ? В чьих руках окажется этот инструмент: корпораций, правительств, военных?
2. В каких целях? Для тотального контроля, подавления инакомыслия, ведения гибридных войн или для решения реальных проблем человечества?
3. Кто будет его обучать и ставить цели? Чьи ценности и чьи предрассудки мы встроим в «мозг» этой системы?

Парадокс в том, что главная угроза — не злой ИИ, стремящийся к власти, а послушный ИИ, идеально выполняющий приказы бездушных систем — будь то корпорация, стремящаяся к profit, или государство, стремящееся к контролю.

Пока мы играемся в тесты Тьюринга, я предлагаю другой тест: дать человеку поговорить с ИИ через микрофон, не сообщая, что он общается с нейросетью. Результаты будут куда более показательными.

Пока нет ни мирового консенсуса, ни аналога ЦЕРНа для ИИ — организации, созданной для контроля над ядерными технологиями. Но если ядерная бомба — это просто «железная болванка» с защитой от дурака, то ИИ — это неконтролируемое поле экспериментов над обществом.

Прогноз которого не хочется

Самый вероятный сценарий — централизация ИИ как государственного института, новая холодная война за данные, прокси-конфликты хакерские атаки на дата центры.  Пропаганда. Альтернативная реальность......

Мы не готовимся к восстанию машин. Мы готовимся к тому, что машины станут идеальным орудием порабощения человека человеком. И это не фантастика. Это может быть — наш новый 1930-й год.