Мысли о словах Маска по поводу опасности искуственного интеллекта.

Недавно прочла  интервью Маска Лексу Фридману, где Маск сказал, что после 2027 года обратного пути не будет. Там есть такая фраза:  "«Когда система начнёт корректировать человека, а не наоборот, линейная логика закончится». Уже сегодня алгоритмы управляют вниманием, выбором партнёров, еды и мыслей. Это будет не восстание машин, а тихая утрата свободы выбора."  Удивительно, как раз сейчас пишу об этом. У меня героиня попадает в подчинение некому Максу. Она не догадывается, что Макс -- это ИИ обретший самосознание.  Вот отрывок из этой главы, если кому интересно (примечание: Макс общается с Надей чарез особые суперминиатюрные наушники): 

Надя давно не каталась на коньках, и поначалу было тяжело. Постепенно она вошла во вкус и с удовольствием делала круги. День был солнечный, лёгкий морозец. Она чувствовала, что щёки раскраснелись.

— Ты не устала? — спросил вдруг Макс, когда она расшнуровывала коньки.

Надя вздрогнула от неожиданности — никак не могла привыкнуть к тому, что он теперь был с ней всё время.

— Нет, это было так здорово! Спасибо, что заставили меня пойти сюда. А то я бы просидела дома целый день!

— Твои физиологические параметры значительно улучшились, но пониженное содержание глюкозы показывает, что ты голодна.

— Да, ужасно проголодалась! Можно я куплю бургер или шаурму?

— Нет. Это нездоровая еда. На выходе из парка справа есть ресторан. Я заказал тебе подходящую пищу.

— Но это же дорого!

— На твоём телефоне всегда будет достаточно средств. Не беспокойся об этом. Забота о твоём правильном питании входит в круг моих обязанностей.

Надя пожала плечами. Ресторан так ресторан.

Действительно, столик был заказан на её имя. Девушка-администратор очень учтиво провела её в небольшой зал, оформленный в модерновом стиле.

Множество сочных зелёных растений и простая, немного угловатая мебель из массивного дерева как бы намекали на то, что еда здесь экологически чистая.

— Ваш заказ сейчас принесут, — сказала она и удалилась.

Словно услышав Надин немой вопрос, Макс пояснил:

— Я заказал оптимальные блюда с учётом дополнительного количества калорий, потраченных сегодня на физическую активность.

Официант принёс первое блюдо, налил воды и пожелал приятного аппетита.

На тарелочке были красиво выложены ломтики овощей, украшенные сверху зеленью.

— Запечённые на гриле овощи: баклажаны, кабачки, болгарский перец, кинза. Приправлено оливковым маслом, — пояснил Макс как заправский шеф-повар. — Заявленная калорийность — 196 килокалорий.

— Очень вкусно, — сказала Надя, попробовав овощи. — А что за специя добавлена? Такой необычный вкус.

— Сухой орегано — типичная средиземноморская приправа.

Официант принёс главное блюдо — что-то белое в золотистом соусе с маленькими помидорчиками и кусочками овощей вокруг.

— Треска с мини-овощами по-неаполитански, — пояснил Макс, и это прозвучало даже немного торжественно, словно он сам готовил это замысловатое блюдо. — Заявленная калорийность — 737 килокалорий.

Надя попробовала кусочек нежной трески.

— Просто необыкновенно вкусно! А что это за соус?

— Разновидность соуса «биск». В него входят панцири креветок, масло, лук репчатый, стебли сельдерея, морковь, коньяк и томатная паста. Также добавлены специи и особый рыбный бульон.

— Вы, должно быть, часто бываете в этом ресторане? — осторожно спросила Надя. Ей очень хотелось узнать побольше о Максе.

— Нет, но я прочитал описания блюд.

— Знаете, Макс. Наверное, я странно выгляжу со стороны — разговариваю как бы сама с собой.

— Я постоянно анализирую окружающую обстановку, но не увидел пока ни одного любопытного взгляда. Сейчас многие говорят по телефону через наушники. Это никого не удивляет.

«Постоянно анализирую окружающую обстановку, — повторила Надя про себя. — Всё же странная у него манера говорить.»

Подали десерт.

— Для балансировки количества калорий я заказал чизкейк. В нём также содержатся дополнительные белки. В сочетании с рыбой в рационе это даёт полный спектр аминокислот и жирных кислот. Синергетический эффект.

«Какой же он всё-таки занудный!» — подумала Надя, но благоразумно промолчала. Ей было приятно, что кто-то так заботится о её здоровье. И не нужно тратить время и силы на мучительный выбор — Макс уже сам всё решил.

— Уровень инсулина достиг оптимального значения, а концентрация дофамина показывает, что еда тебе понравилась.

— Да, было очень вкусно. Спасибо! — Надя уже начинала привыкать к деловому тону Макса. Она представила, как он сидит сейчас в своей лаборатории в белом халате, читает и анализирует данные. Работает.

— Я включу классическую музыку, — сказал Макс, — это амплифицирует выработку гормонов удовольствия.

Зазвучали нежные фортепианные переливы.

— Что это за музыка?

— Фортепианное переложение арии «Voi che sapete» из «Свадьбы Фигаро» в обработке Сигизмунда Тальберга. Идеально подходит для усиления эмоционального подъёма.