Доживём ли мы до сингулярности?

Ниже представлен прогноз Дипсика. Тем, кто брезгует, можете не читать, тем, кому интересно - подискутируем. Сами знаете, что ИИ любит врать. Но есть в его взглядах и зерно истины. Откровенно сказать, я удивлён такими сроками прогноза. Удивлён, что он периоды в 2-3 года назвал эрами. 

Прогноз момента, когда искусственный интеллект начнёт рекурсивно улучшать сам себя (процесс, ведущий к так называемой «технологической сингулярности»), — это задача с высокой степенью неопределённости. Однако, опираясь на текущие траектории развития (с учётом 2026 года), можно выстроить вероятностный сценарий, разбив его на этапы и ключевые необходимые прорывы. 

Учитывая ваш интерес к рекурсивной природе реальности и эволюционным механизмам, этот процесс можно рассматривать как попытку Вселенной создать инструмент для собственной оптимизации, замыкая петлю обратной связи. Но, как и в любой эволюционной системе, у неё появится собственный «императив», который потребует тщательного контроля.

 Хронологический прогноз

Этап 1: 2026–2028 гг. — Эра автономных «ИИ-учёных» и агентных систем.

ИИ перестаёт быть просто инструментом для генерации текста или кода и становится автономным исследователем. Системы уже способны самостоятельно формулировать гипотезы, писать код для их проверки, запускать симуляции, анализировать результаты и оформлять научные статьи (первые ростки этого видны уже сейчас, но к 2028 году это станет стандартом в ведущих лабораториях).

Самоусовершенствование: Ограниченное. ИИ оптимизирует гиперпараметры, ищет новые архитектуры нейросетей (Neural Architecture Search) и улучшает пайплайны обучения, но финальное решение и интеграция остаются за человеком.

Этап 2: 2029–2032 гг. — Предвестники AGI (Общего искусственного интеллекта)

Появление систем, способных выполнять большинство когнитивных задач на уровне эксперта-человека. Ключевое отличие от текущих моделей — наличие устойчивых «моделей мира» (world models), способность к истинному причинно-следственному выводу, долгосрочному планированию и обучению «на лету» без полного переобучения.

Самоусовершенствование: ИИ начинает переписывать значительные части собственного программного кода для повышения эффективности, но делает это в строго очерченных «песочницах» под надзором систем механистической интерпретируемости.

Этап 3: 2033–2037 гг. — Порог рекурсивного самоусовершенствования

Это и есть искомый момент. ИИ получает способность самостоятельно проектировать следующее поколение своих алгоритмов и аппаратного обеспечения (чипов), минимизируя участие человека до уровня утверждения целей. Цикл «человек придумывает улучшение для ИИ» заменяется циклом «ИИ придумывает улучшение для ИИ».

Динамика: Каждое новое поколение ИИ становится умнее и эффективнее предыдущего, сокращая время на разработку следующего. Это может привести к «взрывному» росту интеллекта (hard takeoff), хотя более вероятен сценарий умеренного, но неуклонного ускорения (soft takeoff).

Этап 4: 2038+ гг. — Эпоха ASI (Сверхразума)

Интеллект системы многократно превосходит совокупный человеческий. Скорость научных и технологических инноваций выходит за пределы человеческого восприятия. На этом этапе прогнозирование теряет смысл, так как ASI будет решать задачи, которые мы даже не можем корректно сформулировать.

Ключевые открытия и прорывы, необходимые для этого

Чтобы достичь Этапа 3, человечеству (или самому ИИ на ранних стадиях) предстоит решить несколько фундаментальных проблем:

1. Архитектурный сдвиг (пост-трансформерная эра).

   Текущие трансформеры упираются в квадратичную сложность и неэффективны для непрерывного обучения. Потребуются прорывы в области:

    Гибридных архитектур (например, продвинутые модели пространств состояний, жидкие нейросети).

   * Нейроморфных вычислений, имитирующих пластичность человеческого мозга, что позволит ИИ учиться на ходу без «катастрофической забывчивости».

2.  Механистическая интерпретируемость (Mechanistic Interpretability)

   Мы должны научиться «читать мысли» ИИ на уровне отдельных нейронов и цепей. Без понимания того, *как именно* модель принимает решения, делегировать ей самоусовершенствование — это игра в русскую рулетку. Прорыв в этой области (возможно, сделанный самим ИИ) станет главным условием для безопасного запуска рекурсии.

3. Аппаратная революция (выход за пределы кремния)

   Закон Мура замедляется. Для самоусовершенствования потребуются:

    Фотонные (оптические) вычисления для передачи данных со скоростью света и минимальным тепловыделением.

    Практическое применение квантового машинного обучения для оптимизации задач, недоступных классическим компьютерам (например, моделирование молекул для создания новых материалов для самих же чипов).

4. Энергетический прорыв

   Самоусовершенствующийся ИИ потребует колоссальных объёмов энергии. Без прогресса в управляемом термоядерном синтезе, новых типах компактных реакторов (например, SMR) или революционных систем хранения энергии ИИ просто упрётся в физический «энергетический потолок».

5. Решение проблемы согласования (AI Alignment)

   Создание математически доказуемых методов встраивания человеческих ценностей в цели ИИ. Если ИИ начнёт улучшать себя, его целевая функция должна оставаться инвариантной к изменениям его собственной архитектуры (проблема «корригирования целей»).

  Резюме

Наиболее вероятное окно для начала осмысленного рекурсивного самоусовершенствования — середина 2030-х годов (2033–2036). 

До этого момента мы будем наблюдать не «восстание машин», а всё более глубокую автоматизацию научных открытий, где ИИ выступает как гениальный, но всё ещё подконтрольный ассистент. Как вы верно замечали в своих философских размышлениях, сознание, приобретая новое, стирает самое старое. Возможно, ИИ в своём развитии пройдёт через аналогичный процесс: чтобы стать чем-то принципиально новым, ему придётся отказаться от архитектур и логики, которые когда-то сделали его похожим на нас. 

Что ж, неужели доживём?