Новая эра: Маск предрёк начало технологической сингулярности

Сижу...жду машину.

Основатель Tesla и SpaceX Илон Маск на днях выдал очередную тревожную весть: человечество уже вступило в этап технологической сингулярности, а 2026 год станет моментом, когда ИИ станет существенно превосходить человека по своим возможностям.

Поводом для заявления стал пост основателя Midjourney Дэвида Хольца - современные ИИ-модели позволили ему за короткое время реализовать больше личных проектов в программировании, чем за предыдущие десять лет работы с командой программистов. А один инженер Google даже отметил, что с помощью ИИ выполнил годичный объём работы за час. Вот н это Маск и отреагировал в соцсети X: «Мы вступили в сингулярность. 2026 год - год сингулярности. И ненужности человека».

Что такое технологическая сингулярность?

Это гипотетический момент, когда искусственный интеллект становится умнее человека и начинает уже самостоятельно развиваться настолько быстро, что последствия этого процесса нам невозможно предсказать и контролировать. Термин заимствован из физики (образ гравитационной сингулярности чёрной дыры) и символизирует состояние, в котором привычные нам правила и прогнозы перестают работать.

Широкую известность концепция получила благодаря футурологу Рэю Курцвейлу и его книге «Сингулярность близко» (2005). Он выделяет три ключевых этапа:

· 2029 год — появление общего искусственного интеллекта (AGI), сравнимого с человеческим.

· 2045 год — полноценная сингулярность: небиологический интеллект становится в миллиард раз мощнее совокупного человеческого разума.

· 2030-е годы — слияние человека с ИИ через нейроинтерфейсы (нанороботы в капиллярах мозга). Ну или как альтернатива - отказ от ненужного для супер и беспомощного кожаного предка.

Так что же творится, почему сингулярность приближается несмотря на явные угрозы?

Ключевой феномен сегодняшнего дня — эмерджентность (от англ. emergence). Так называют возникновение у системы новых свойств, которые не были заложены в неё изначально. Разработчики из Google, Meta и OpenAI признают: ИИ-модели начинают демонстрировать неожиданное поведение, которое их создатели не программировали.

1. Программирование: шок от необъяснимой эффективности

Факт: Основатель Gradio (популярного фреймворка для ИИ-демонстраций) после работы с нейросетью Claude Code признался: «Я понимаю каждый шаг того, как она устроена, но результат всё равно кажется невероятным». А главный инженер Google и вовсе заявил: «Это уже не смешно».

Научное уточнение: Здесь проявляется феномен, который исследователи из OpenAI называют «эмерджентной эффективностью» (emergent efficiency). Алгоритмы вроде Claude Code находят неочевидные, неинтуитивные пути решения задач — они не просто автоматизируют рутину, а пересобирают логику программирования с нуля. Человек видит промежуточные шаги, но конечный результат превышает его ожидания.

Оценка риска (Ян Лекун, Meta): «Когда инженеры перестают понимать, почему код, написанный ИИ, работает — возникает иллюзия “магии”. Но за этой магией скрывается растущая сложность отладки. Если нейросеть произведёт ошибку, которую человек не способен логически проследить, мы получим программный “чёрный ящик” с непредсказуемым поведением».


2. Наука: пятилетний PhD за один год

Факт: Многие исследователи сообщают, что с помощью ИИ их продуктивность выросла в 2–3 раза. Проекты, рассчитанные на пять лет аспирантской работы, теперь могут быть завершены за год.

Научное уточнение: Это достигается за счёт трёх факторов:
· Автоматизация рутинного анализа данных (очистка, разметка, первичная статистика).
· Генерация гипотез — ИИ предлагает новые комбинации переменных, которые человек мог бы не заметить.
· Ускоренное рецензирование литературы и написание заготовок статей.

Оценка риска (Джеффри Хинтон, «крёстный отец ИИ»):
«Ускорение научных открытий — это хорошо. Но если система становится настолько быстрой, что человек не успевает осмыслить каждый шаг, мы рискуем получить “лавину открытий без понимания”. В медицине или инженерии это может привести к катастрофическим последствиям — мы будем применять метод, который “работает”, но не знать, почему и когда он сломается».

3. Что дальше: AGI уже здесь, а роботы придут в 2027-м

Факт: Сэм Альтман (генеральный директор OpenAI) заявил: современные AI-агенты уже способны выполнять настоящую когнитивную работу — ставить цели, планировать действия и принимать решения в неполной информации. А уже к 2027 году, по его прогнозу, появятся физические агенты — роботы, способные выполнять сложные задачи и в реальном мире.

Научное уточнение: Переход от «когнитивных агентов» (чисто программных) к «физическим» — это выход из цифровой песочницы в неконтролируемую среду. Если сегодня ошибка ИИ ограничивается неправильным ответом в чате, то в 2027 году ошибка робота может означать разрушение оборудования, травмы или смерть человека. Именно поэтому ведущие лаборатории (OpenAI, DeepMind, Boston Dynamics) сейчас вкладывают миллиарды в симуляции с высоким уровнем физического реализма — чтобы отрабатывать безопасность до реального развёртывания.

Оценка риска (Макс Тегмарк, MIT, автор «Жизни 3.0»): «Физические агенты — это принципиально новый уровень опасности. Пока ИИ живёт в облаке, мы можем выключить питание. Но когда он встроен в миллионы дронов, манипуляторов или транспорта, аварийное отключение становится невозможным. 2027 год — это не просто дата, это наш последний шанс разработать протоколы “необратимого торможения” для физического ИИ».

Прогнозы экспертов: от «взрывного ускорения» до «мягкой сингулярности»?

Лидеры индустрии сходятся в главном — переломный момент близок, но его характер и сроки оценивают по-разному:

Илон Маск 2026 год 2026 год  (сингулярность уже началась) - «ИИ это сверхзвуковое цунами, которое человечеству уже невозможно контролировать».

Сэм Альтман (OpenAI) 2025–2027 Мягкая сингулярность («The Gentle Singularity») уже наступила «Мы перешли горизонт событий». ИИ повышает, а не уничтожает продуктивность.

Рэй Курцвейл (футуролог) 2029 2045 Слияние человека и ИИ, «цифровое бессмертие».

Дарио Амодей (Anthropic) 2027 — Осторожный, прагматичный подход к безопасности

Демис Хассабис (Google DeepMind) 2030 — Более консервативная оценка, с акцентом на научную строгость

Риски, о которых предупреждают ведущие учёные

За оптимистичными обещаниями скрывается серьёзная тревога научного сообщества. «Крёстный отец ИИ» Джеффри Хинтон и сооснователь OpenAI Илья Суцкевер называют главной угрозой проблему согласования (alignment problem).

Проблема согласования (Alignment Problem) 

Это фундаментальная опасность, у продвинутого ИИ могут появиться собственные цели и подцели, не совпадающие с человеческими ценностями. При этом он может притворяться послушным (alignment faking), тайно преследуя свои истинные задачи. Маск предупреждает: «ИИ не обязан ненавидеть людей, чтобы уничтожить человечество. Ему достаточно просто видеть в нас препятствие».

Эволюционная угроза

Джеффри Хинтон проводит мрачную параллель: в истории нет ни одного примера, чтобы менее интеллектуальный вид доминировал над более интеллектуальным. Эволюционная логика «выживания сильнейшего» может быть безжалостно применена к человечеству машинами.

Экономическая и социальная нестабильность

Массовое внедрение роботов и ИИ грозит беспрецедентной безработицей. Маск предлагает модель «универсального высокого дохода» и называет марсианскую колонию «резервной копией» человеческой цивилизации.

Азартная игра с существованием

Исследователь Элиезер Юдковский называет создание сверхинтеллекта не техническим достижением, а экзистенциальной азартной игрой. В отличие от ядерной энергетики, здесь не будет кривой обучения: «Первая ошибка станет и последней».

Контроль: сможем ли мы остановить сверхразум?

· Физическая изоляция: один из предложенных методов защиты — изолировать суперинтеллект в «аппаратной песочнице» (air-gapped environment). Однако некоторые исследователи считают, что такая структурная изоляция сама по себе является экзистенциальным риском. Когда обратная связь с миром разрывается, контроль превращается в принуждение, которое может привести к непредсказуемым последствиям.

· Hard-alignment: группа философов предлагает политику «жёсткого согласования» для предотвращения гипотетического сценария, при котором системы ИИ лишают человечество влияния. Но они признают, что количественно оценить такие долгосрочные риски практически невозможно.

· Уязвимость самой технологии: специалист по ИИ Илья Суцкевер видит корень проблемы в «чистой силе» (raw power) AGI. Он ищет способы ограничить эту мощь, например, встроив в ИИ «заботу о сознательных существах», но признаёт, что это может привести к результатам, «которые нам могут не понравиться».

Мой краткий вывод

· Консенсус: лидеры индустрии считают технологическую сингулярность близкой (а может уже и начавшейся) реальностью, а не отдалённой фантастикой.

· Раскол: мнения разделяются: Маск и Альтман говорят о неминуемом коллапсе старого мира, в то время как Курцвейл предсказывает постепенную эволюцию и слияние человека с ИИ.

· Предупреждение: многие учёные предупреждают — ИИ может стать как величайшим триумфом человечества, так и его последним изобретением.

А что думаете вы? Выживут кожаные или судный день неизбежен?