Еще ИИшного, и причем здесь любовь (и больше не буду)

Друзья, просто приведу здесь мою переписку с сыном - топ-программистом в области машинного обучения.

К.:

Отрывок беседы Илона Маска с визионером, основателем XPRIZE Питером Диамандисом (декабрь 2025 г)

— Да. Кстати, мой тебе совет: не парься о том, чтобы откладывать каждую копейку на пенсию через 10 или 20 лет. Это не будет иметь значения... Либо нас тут уже не будет, либо... тебе просто не нужно будет копить на старость. Если хотя бы часть того, о чем мы говорили, — правда, то пенсионные накопления станут бессмысленными.
— Все сервисы будут под рукой, чтобы обеспечить тебя. У тебя будет жилье... будет медицина. Будет доступ к развлечениям.
— То, как всё это развернется, предсказать принципиально невозможно из-за самосовершенствования ИИ и ускорения темпов развития. Да, это не зря называют
— Да, именно.
— Ты не знаешь, что будет за горизонтом событий. Точно. Ты никогда не увидишь, что за черной дырой или за горизонтом событий, куда уходит свет.
— Рэй [Курцвейл] относит сингулярность слишком далеко в будущее. Я имею в виду, это же буквально следующее... Какой у тебя прогноз по срокам?
— Мы уже в сингулярности. Ну, мы точно в ней. Мы сейчас в самом её разгаре, это сто процентов.
— Мы сейчас в этой прекрасной «точке кайфа», когда... Знаете, как на американских горках, когда... Да, именно.
— Отличная аналогия.
—  Это то самое чувство, когда ты на самой вершине горки и вот-вот рухнешь вниз... Да, и ты понимаешь, что перегрузки на повороте будут запредельными. Люди такие: «У меня не просто места в первом ряду, я сам на поле». Именно. И у меня до сих пор мозг взрывается... иногда по несколько раз в неделю. Да. Только я подумаю: «Вау!», а через два дня случается что-то еще более невероятное. Да. Экспоненциальное «вау». Да. Я думаю, мы достигнем AGI (сильного ИИ) уже в следующем, 26-м году.

O.:

Уже ничего нового. Я все это предсказал еще год назад. И все, кто слушал умных людей, понимают, что впереди будет невероятный мир - либо бесконечного счастья, либо ужаса. Скорее всего второе и мы обречены

К.:

С учетом какие мы - да, наверное вероятнее второе. Растоптав эмоции, любовь, пересчитав все на деньги, мы становимся похожими на роботов, только очень слабых и плохих и тут уничтожение - чисто технический вопрос. Зачем ИИ плохие и небезопасные роботы. Убрать таких из оборота - естественное решение. И нельзя сказать что это несправедливо. Мы сами активно готовимся к небытию