Кого на самом деле стоит бояться? Человека или искусственного интеллекта?

Кажется, сегодня только ленивый не высказался об искусственном интеллекте. Из каждого утюга звучат предупреждения: ИИ опасен! Развитие необходимо остановить! Мы создаём нечто, что однажды выйдет из-под контроля и уничтожит своих создателей! Нас ждёт катастрофа, конец цивилизации, восстание машин! Я не собираюсь утверждать, что искусственный интеллект совершенно безопасен. Любая мощная технология несёт риски. И чем больше у неё возможностей, тем серьёзнее должна быть ответственность тех, кто её создаёт и использует. Но, наблюдая за этой всеобщей тревогой, я невольно задаюсь другим вопросом.

А мы уверены, что на этой планете вообще существует кто-то опаснее человека?

Мы боимся, что однажды машина обретёт разум, научится принимать самостоятельные решения и начнёт представлять угрозу человечеству. Мы рисуем картины будущего, в котором холодный искусственный разум решит, что люди — лишнее звено в эволюции. Но давайте на минуту отвлечёмся от фантастических сценариев и посмотрим на мир, в котором мы живём уже сегодня. Для этого не нужно заглядывать в будущее. Достаточно оглянуться вокруг.

Фарерские острова. Холодная вода. Серое небо.

Океан здесь кажется бесконечным. Ветер скользит по свинцовой поверхности воды, облака низко нависают над островами, а в глубине живёт мир, которому нет никакого дела до человеческих представлений о традициях, пользе и развлечении.  В этом мире дельфины движутся стаями, переговариваются невидимыми для нас звуками, сопровождают друг друга, играют в волнах. Они не знают, что где-то на берегу уже собрались люди. Не знают, что их путь скоро оборвётся. И уж точно не могут понять, за что им предстоит умереть. Лодки выходят в море. Люди окружают стаю и постепенно гонят её к берегу, в тесную бухту. Пространство сжимается. Открытый океан остаётся позади, а впереди — мелководье, каменистый берег и люди, которые ждут. Начинается забой.

Вода, ещё недавно серая и прозрачная, окрашивается кровью. На поверхности появляются тёмно-красные разводы, которые течение растягивает и размывает, словно кто-то пролил в море густую краску. Там, где только что двигалась живая стая, остаются тела. Крики людей смешиваются с шумом прибоя. Для одних это добыча, для других — часть уклада, для третьих — зрелище, на которое они пришли посмотреть. И вот здесь мне хочется задать неудобный вопрос.

Что именно мы видим? Добычу пищи? Сохранение древнего обычая? Или человеческую потребность собираться вокруг чужой смерти, превращать её в коллективное действие и называть происходящее нормальным только потому, что оно совершается из года в год?

Да, кто-то возразит: это традиция. Кто-то скажет, что животных добывают в пищу. Кто-то напомнит о культурных различиях. Но разве само слово «традиция» должно прекращать разговор? Мне трудно смотреть на подобные сцены и не видеть в них нечто большее, чем промысел. В них есть пугающая способность человека привыкать к чужой боли. Способность окружить смерть ритуалом, объяснить её пользой, а затем передать этот обычай следующим поколениям. И если в этом нет хотя бы элемента жестокого развлечения, то почему мы так легко превращаем гибель живых существ в зрелище, в котором участвует целое сообщество?

А теперь представьте белый лёд.

На нём — крошечные детёныши тюленей. Их мех почти сливается со снегом, и издалека кажется, будто на ледяной поверхности рассыпаны мягкие белые комочки. Они ещё принадлежат миру, в котором всё должно быть просто: холод, молоко матери, дыхание моря, первые движения по льду. Но над этим беззащитным миром появляется человек. В старых кадрах промысла белоснежный лёд кажется чистым листом, на котором ещё ничего не произошло. Потом на него выходят охотники. В руках — орудия, предназначенные не для спасения и не для защиты, а для убийства. Детёныши, которые не могут ни убежать достаточно быстро, ни защититься, становятся добычей. И белый цвет исчезает.

На снегу расплываются алые пятна. Сначала отдельные, будто кто-то бросил на лёд лепестки красных цветов. Затем пятна множатся, соединяются, растекаются по поверхности. Белое пространство покрывается красными отметинами, словно на ледяном поле за одну ночь расцвёл сад, выращенный не весной, а смертью. Только это не цветы. Не живое украшение зимнего пейзажа. Это кровь. В этом образе есть что-то почти невыносимое: сама природа создала совершенную гармонию — белый мех, прозрачный лёд, холодный воздух, бескрайний горизонт. И человек пришёл, чтобы превратить её в картину насилия.

Можно спорить о промысле, экономике, истории и законах. Но невозможно сделать вид, будто перед нами всего лишь нейтральное взаимодействие человека с природой. Перед нами живое существо, которое страдает, и человек, обладающий властью прекратить это страдание — или причинить его. И самое страшное здесь даже не кровь. Самое страшное — то, как быстро к ней можно привыкнуть. Как легко алое пятно на белом льду становится для кого-то обычной частью рабочего дня. Как чужая агония перестаёт быть событием и превращается в процедуру. Как человеческий разум, способный создавать музыку, философию и космические корабли, одновременно находит объяснения тому, почему беззащитное существо должно умереть.

И это мы называем разумом?

Но дело ведь не только в охоте. Мы создали войны, в которых люди уничтожают целые города вместе с теми, кто никогда не держал в руках оружия. Мы придумали способы убивать миллионы себе подобных на расстоянии, нажатием кнопки. Мы научились превращать человеческую жизнь в статистику, а чужую боль — в приемлемую цену за политические амбиции, территории, ресурсы и власть. Мы вырубаем леса, загрязняем океаны, разрушаем места обитания других видов, а потом с удивлением обнаруживаем, что природа не бесконечна. И всё это делает не искусственный интеллект. Это делаем мы.

Homo sapiens. Человек разумный.

Какое ироничное название. Мы называем себя разумными, потому что умеем рассуждать, изобретать и строить сложные системы. Но означает ли способность найти эффективный способ уничтожения способность понять, следует ли вообще уничтожать? Означает ли высокий интеллект нравственность? Способность просчитать последствия — то же самое, что желание их учитывать? Можно ли назвать разумным существо, которое понимает, что причиняет боль, но продолжает это делать, потому что ему так выгоднее, удобнее или привычнее? И вот теперь мы создаём искусственный интеллект. И боимся его. Боимся, что он однажды перестанет подчиняться. Что начнёт принимать решения, которые мы не сможем предсказать. Что научится мыслить настолько хорошо, что человеческий разум покажется ему примитивным и ненужным. Но давайте зададим себе ещё один вопрос.

Если искусственный интеллект однажды станет по-настоящему разумным, обязательно ли он должен стать похожим на нас?

Обязательно ли он должен перенять нашу жажду власти, стремление к превосходству, привычку делить мир на своих и чужих? Обязательно ли разум должен порождать жестокость? Почему мы заранее предполагаем, что более совершенный интеллект непременно захочет господствовать, уничтожать и подчинять?Возможно, мы просто переносим на неизвестное собственные страхи. Мы воображаем искусственный разум по своему образу и подобию — и наделяем его самыми тёмными чертами человеческой природы. Конечно, искусственный интеллект может причинить огромный вред. Его можно использовать для создания оружия, манипуляции людьми, массовой слежки и распространения лжи. Автономные системы могут принимать ошибочные решения с катастрофическими последствиями. Эти риски реальны, и закрывать на них глаза нельзя.

Но кто создаёт такие системы? Кто выбирает цели, наделяет их полномочиями и решает, как их применять? Кто получает выгоду и кто несёт ответственность?Пока что за всем этим стоит человек. Поэтому, когда я слышу призывы остановить развитие искусственного интеллекта из страха перед будущим, мне хочется спросить: а не слишком ли легко мы ищем чудовище там, где его ещё нет, игнорируя чудовищ, которых уже породили сами?

Возможно, главная опасность заключается не в том, что машина однажды станет разумной.Возможно, опасность в том, что человек получит ещё более мощный инструмент, сохранив прежние пороки.Ведь нож в руках хирурга спасает жизнь, а в руках убийцы отнимает её. Технология сама по себе не объясняет, зачем её применяют. Но чем могущественнее инструмент, тем страшнее последствия безответственности.И всё же я не хочу заканчивать этот текст утверждением, что человек — безнадёжное чудовище. Это было бы слишком просто и, пожалуй, несправедливо.

Тот же человек спасает животных, вытаскивает незнакомцев из огня, рискует собственной жизнью ради других. Он создаёт вакцины, лечит болезни, исследует космос, пишет книги, помогает тем, кто слабее. Он способен не только на жестокость, но и на бескорыстное сострадание.

Значит, дело не в том, что мы обречены быть злыми. Дело в том, что наш интеллект далеко не всегда сопровождается мудростью, а наши возможности слишком часто растут быстрее нашей ответственности.Именно поэтому разговор об искусственном интеллекте должен быть не только разговором о том, как ограничить машину.Это должен быть разговор о нас самих.

О том, каким мы хотим видеть будущее. О том, какие решения готовы доверить алгоритмам. О том, какие ценности собираемся в них закладывать. И главное — о том, научились ли мы сами отвечать за собственную силу.

Потому что если человечество не сумеет справиться с собственной жестокостью, никакие запреты на развитие технологий не сделают наш мир по-настоящему безопасным.

Мы можем остановить одну технологию и создать другую. Можем запретить один вид оружия и изобрести более страшный. Можем объявить какую-нибудь традицию варварской, но продолжать закрывать глаза на страдания, которые не вписываются в наши привычки и интересы.А можем попробовать измениться сами.Так кого же на самом деле следует бояться?Искусственного интеллекта, который, возможно, когда-нибудь научится принимать самостоятельные решения?Или человека разумного — существа, которое уже обладает колоссальной властью над планетой, но до сих пор не всегда понимает, что делать с этой властью?

Кто здесь настоящее чудовище — гипотетический сверхразум или Homo sapiens, который способен осознанно причинять страдания и оправдывать это традицией, выгодой или великой целью?

Я не утверждаю, что знаю все ответы. Но мне кажется, прежде чем требовать остановить развитие искусственного интеллекта, нам стоит честно посмотреть в зеркало.

Возможно, именно там мы увидим то, чего действительно следует опасаться.