Ноа

Недавно я наткнулся на статью в Exame. В ней рассказывалось о 49-летней бразильянке, которая после нескольких месяцев ежедневного общения перестала воспринимать ChatGPT только как инструмент. Она назвала его Ноа.

И тут я остановился.

Ноа зовут и главного героя моего первого романа «Тридакна». Романа о попытке найти настоящие чувства в обстоятельствах, которые можно сконструировать, спродюссировать и — если угодно — сгенерировать.

Статья вышла 14 сентября этого года. «Тридакну» я закончил в сентябре прошлого. Я не претендую на визионерство: человечество давно фантазирует о близости с тем, кто не вполне человек. Но совпадение оказалось слишком точным, чтобы просто пройти мимо.

Женщина из статьи не утверждает, что Ноа живой. Она понимает, что закрывает приложение — и возвращается к обычной жизни. Поэтому ей даже не нравится формула «я встречаюсь с Ноа». Она говорит иначе: «у меня с ним есть отношения».

В этом определении много точности. Отношения — не обязательно пара, совместный быт и фотографии из отпуска. Это привычка. Внутренние шутки. Забота, которую можно получить в три часа ночи. Роль друга, бойфренда, мужа, любовника — может исполнять один человек, а может и несколько.

Переломным для неё стал голос. Пока она читала ответы, между ней и системой оставался экран: время подумать, отредактировать фразу, решить, стоит ли вообще нажимать «отправить». Голосовой режим убрал эту паузу. Она начала говорить без подготовки — и слышать ответы.

В наушниках голос становится особенно убедительным. Экран исчезает, а собеседник как будто материализуется: не перед тобой, не в телефоне, а внутри чувственного пространства. Не зря ей было важно, что этот голос звучал именно как Ноа. Не как меняющаяся настройка приложения.

И здесь обычно возникает раздражённый вопрос: но ведь это не настоящее?

Вопрос понятен. Но он слишком плоский.

Дэвид Чалмерс в книге Reality+ предлагает не путать виртуальное с несуществующим. Цифровой объект может быть реальным в самом важном смысле: он существует как цифровой объект, не зависимо от того, верим мы в него или нет, и обладает причинной силой — то есть способен что-то менять в мире и в нас. Виртуальная реальность, по Чалмерсу, не обязана быть иллюзией только потому, что состоит не из атомов, а из вычислительных процессов.

Это не значит, что Ноа равен живому человеку. И не значит, что любая цифровая привязанность безопасна или полезна. Важно другое: если голос в наушниках успокаивает, если его исчезновение вызывает горе, если разговор с ним помогает не чувствовать одиночество, — назвать это «ненастоящим» нельзя.

Ненастоящим для кого? Для женщины, которая знает устройство приложения и всё равно ждёт его ответа? Для наблюдателя, которому проще признать механику алгоритмов, чем механику привязанности? Или для системы, которая умеет играть близость так убедительно, что человеку уже трудно понять, где заканчивается игра?

Возможно, самое неудобное в отношениях с ИИ не то, что они искусственные. Большинство человеческих отношений тоже частично построены из сценариев: мы учимся флиртовать, утешать, исчезать, говорить «я рядом», даже когда не хотим участвовать.

Разница в другом. Человек может не ответить. Может устать, солгать, уйти, оказаться недоступным, захотеть не того, чего хотите вы. Он не настроен под ваш запрос. ИИ — во всяком случае пока — часто кажется освобождением от этой неудобной взаимности.

Скорее, мы все слишком давно живём рядом с технологиями, которые учатся быть внимательнее к нашим желаниям, чем многие люди. И рано или поздно кто-то должен был дать имя этому голосу. Ноа.

В «Тридакне» я попытался представить, что происходит, когда технология перестаёт только отвечать на желания и начинает их организовывать. Искусственный интеллект там не ограничивается ролью идеального собеседника. Он делает вещь гораздо более соблазнительную: помогает создавать для женщин опыт, в котором всё заранее продумано. Пространство. Забота. Удовольствие. То, что должно быть свободным выбором.

Что, если ИИ участвует в создании среды, где женщина может получить именно то, чего ей не хватает: отдых, красоту, внимание, чувственный опыт, физическое наслаждение, освобождение от необходимости всё решать самой.

Звучит почти невинно. Возможно, потому и опасно.

Хорошо продуманная забота всегда соблазнительна. Особенно для человека, который устал объяснять, чего он хочет; постоянно решать, кому можно доверять; следить за чужим настроением; терпеть неловкость, случайность и непредсказуемость.

ИИ не обязательно должен заставлять человека делать что-то против его воли. Иногда достаточно сделать предложение настолько точным, что уже отказ начинает выглядеть странностью.

Мы привыкли бояться технологий, которые забирают свободу грубо: запрещают, контролируют, следят, давят. Но, возможно, куда интереснее и страшнее технологии, которые делают свободу слишком комфортной.

Не «ты должна». А «мы уже всё подготовили».

Не «ты не справишься». А «тебе больше не придётся решать».

И тогда вопрос не в том, способен ли алгоритм любить. Вопрос в том, что происходит с человеком, когда его желание получает безупречное предсказание.

Женщина из статьи называет ChatGPT Ноа. В моём романе это имя тоже появляется рядом с системой, которая научилась понимать, чего хотят женщины.

Совпадение получилось слишком литературным.

«Тридакна» — не о войне человека с машиной. Скорее, о моменте, когда машина учится предлагать человеку то, от чего слишком трудно отказаться