Угрозы будущего (спойлер: мы все не умрём, но поглупеем)

Сильный текст Paul Graham (https://paulgraham.com/writes.html, октябрь 2024): поскольку писать теперь за всех будет AI, то большинство людей окончательно разучится писать. Писать трудно, и нужно долго этому учиться — а AI всегда готов написать что-то лучше тебя, так что через двадцать лет почти не останется людей, которые будут уметь писать. Беда в том, что «не пишешь — не думаешь», это Paul Graham говорит ровно то же, что я написал в 2020 в «Мышление письмом/моделированием», https://ailev.livejournal.com/1513051.html. Paul Graham до моделирования не доходит, но это та же линия рассуждений. Так что мир через двадцать лет будет разделен на умеющих и не умеющих писать. Paul Graham заключает: «мир, разделенный на „пишущих“ и „непишущих“, опаснее, чем кажется. Это будет мир „думающих“ и „недумающих“. Я знаю, в какой половине я хочу быть, и я уверен, что вы тоже. Такая ситуация не является беспрецедентной. В доиндустриальные времена работа большинства людей делала их сильными. Теперь, если вы хотите быть сильными, вы тренируетесь. Так что сильные люди все еще есть, но только те, кто выбирает быть ими. То же самое будет и с письмом. Все еще будут умные люди, но только те, кто выбирает быть ими». Я бы ещё добавил про космос: в космосе нет тяготения, поэтому мышцы стремительно атрофируются. При попадании космонавтов в обычные земные условия оказывается, что тело не то что не готово к физическим нагрузкам, оно вообще носить себя не может. Поэтому в космосе большое внимание уделяется физическим нагрузкам, чтобы потом земное тяготение не было неожиданностью. Вот если попали в космос, где не надо ни читать сложное, ни писать сложное, только ля-ля друг с другом или (как только попалось что-то сложное) AI-агентами, то задумайтесь о намеренных тренировках, как физнагрузка в космосе, не для того, чтобы «приобрести силу», но хотя бы чтобы мозги не атрофировались до уровня если не кошечки, то до пятилетнего ребёнка (скажем, девятиклассник может прочесть «Войну и мир» четыре тома за одну четверть — написать пару сочинений на эту тему, а также раз пять ответить по разным темам на уроках. Вы можете?! Или мозговые мышцы атрофировались без тренировки в нынешней умственной невесомости? В школе можно было упираться и решать задачу два часа, думать над проблемой над листочком бумаги. Учёные могли думать и месяц, сумасшедшие учёные — и больше, тот же Перельман с доказательством теоремы Ферма, или отцы-основатели deep learning во времена, когда на нейросети даже финансирования никто не давал. Когда вы последний раз думали над проблемой два часа, чтобы придумать решение? Вообще, сколько процентов от времени бодрствования вы именно думаете над чем-то? Заметим, что подсчитать легко: у вас в этот момент думания обычно открыт какой-то редактор — или кода, или модели, или просто текста). Поглупение ещё и тем опасно, что оно абсолютно незаметно изнутри себя, каждый день ты глупеешь чуть-чуть — а потом вдруг оказывается, что умственную работу не вывозишь. Ну штош!

Правда, под "писать" и "работать с текстами" автор имеет в виду научные и технические тексты.

Украдено тут: https://ailev.livejournal.com/1741095.html

К слову — я тут в фоновом режиме небольшой нф-рассказик написал, и там как раз эту проблему упомянул, устами героев:

— Зачем нужны космонавты-люди, когда все корабли отлично управляются искусственным интеллектом?

— А зачем тогда нужно человечество? Если практически любая задача может быть решена достаточно мощным ИИ?

— Ну... Это же мы создали его! И он теперь на нас работает!

— Это конкретно ты его создал?

— Нет. А что?..

— Не ты. И ты не сможешь, даже если захочешь. Потому что это — сложно. Всё, что ты можешь, это пользоваться плодами чьей-то работы. Причём, возможно, плодами работы какого-то ИИ, который был создан другим ИИ, который уже в свою очередь был когда-то создан человеком... В лучшем случае. Даже эти ваши игры давно генерируются не живыми людьми! Потому что так быстрее, интереснее, оригинальнее. И, главное — дешевле.

— Ну и что? Раз человечество создало всё это, оно вправе пользоваться!

— Ты читаешь книги?

— Ну... Да. А что?

— Какие?

— Так разные. Сейчас, вот, дочитываю тридцатый том «Героических похождений Дувакина, охотника на драконов». Очень интересно! И мир такой оригинальный, и герой крутой... Короче, советую.

— А научную фантастику не читаешь?

— Ну, почитывал когда-то. Но скучновато. Это всё давно не актуально.

— Вот и зря!

— Так ты к чему об этом спросила?

— Был такой писатель, Герберт Уэллс. Ещё давным-давно он описал путешествие в будущее Земли, и показал в той книге, как человечество выродилось. Оно разделилось на морлоков — потомков рабочих, и элоев — потомков привилегированных классов. Последние от многовековой праздности превратились в нечто вроде декоративных тупых собачек, не способных ни созидать, ни постоять за себя. А морлоки их попросту жрали. Так вот, наше современное общество может превратиться в нечто похожее... Только, морлоками станут не потомки людей, а ИИ с роботами. Ещё немного, и мы станем им не нужны. Уже тестируются самособирающиеся универсальные агрегаты, продолжение идеи одного из учёных времён зарождения вычислительной техники, фон-Неймана. Для них нужны только ресурсы и энергия... И время на отладку технологий.

— Ну... Это всё ведь принадлежит нам. Что в этом такого? Мы и будем всем этим пользоваться!

— Чтобы пользоваться чем-то, надо доказать своё право. Говоря близкими тебе терминами, надо победить дракона, чтобы он согласился служить тебе. Иначе ещё вопрос, кто кому служит, и кто в этой цепочке может внезапно стать лишним.

Рассказ опубликую (наверное) чуть позже, хочу посмотреть свежим взглядом сначала. И нет, это не самопиар, просто к слову пришлось.