Вспомнил «Электроника» — и нашел, о чем поспорить с нейросетями
Автор: Алексей Некрасов«Приключения Электроника» мы знаем с детства. Фильм, конечно, помнят все, но вообще-то сначала была книга. Вернее, целый цикл повестей: «Электроник — мальчик из чемодана», «Рэсси — неуловимый друг», «Победитель невозможного», «Приключение Электроника» и «Новые приключения Электроника». Евгений Велтистов, наш человек.
Так вот, в детстве я их глотал как обычную фантастику. А на днях вдруг вспомнил — и задумался. Там же сюжет, который сегодня обсуждают на каждом углу, только громко и с паникой.
Смотрите: профессор Громов собирает робота Электроника — один в один мальчик Сыроежкин. Робот умный, всё понимает, чувствует, учится. В один прекрасный момент он сбегает и... начинает мечтать. «Хочу, — говорит, — человеком стать». А профессор бегает за ним и пытается вернуть своё имущество. Как вещь.
И ведь по закону-то профессор прав. Электроник — не человек, он объект. Но когда читаешь, внутри что-то протестует. Ну какой же это объект? Это ж пацан живой, пусть и с микросхемами внутри.
А в книге «Победитель невозможного» Электроник замахивается на святое — хочет вывести формулу гениальности. Чтобы машина могла мыслить как человек. Не просто выполнять команды, а быть равной. И вот тут становится по-настоящему интересно.
Я, собственно, почему об этом вспомнил. На АТ сейчас много спорят про нейросети: одни боятся, что ИИ заменит писателей, другие отмахиваются — мол, ерунда. Я читаю эти дискуссии и думаю: вопрос-то глубже. Не «заменит — не заменит», а кого мы вообще считаем творцом, а кого — просто инструментом.
Создатель отвечает за то, что создал, это ясно. Но что, если твоё создание вдруг повзрослеет? Начнёт принимать решения, которых ты в него не закладывал? Захочет быть свободным? Хочется, конечно, верить, что Электроник не станет Терминатором. По крайней мере, без предупреждения.
Велтистов всё это описал ещё в 1964 году. А мы до сих пор спорим. Вот такие дела.