Александр Кольский

Если ИИ может хорошо облекать наши мысли в слова, исходя из ассоциаций и по нашему заданию, то на первое место выходят три вопроса:
- какие задания давать ИИ и на каком материале, то есть что для нас значимо, а чем можно пренебречь?
- какие из этих тезисов станут для нас руководством к действию?
- как этот процесс изменит наше сознание, мышление и само бытие, хотим ли мы таких изменений и готовы ли мы к ним?
И тот и другой вопрос затрагивает тему выбора и действия, то есть тему Воли. Переход от Человека Разумного к  Человеку Выбирающему и Реализующему? Каковы + и - такого перехода? 

 в  книгах автор описывает своего героя как мужчину и озвучивает эту мыль его устами.

Сознание порождает мир, который начинает познавать, но сам процесс познания меняет мир. Интересная трактовка парадокса рефлексивного ускользания.
"Нам необходимы другие сознания, так как они — главный источник усложнения нашей собственной системы, без которого мы застаиваемся." - застой не единственная опасность. Вспомним, что бывает, если положить микрофон слишком близко к колонке, возникает петля усиления и раздается громкий вой или свист. Сознание зацикленное само на себе может стагнировать, но может и пойти в разнос и разрушиться из за невозможности разрешить внутренние конфликты. Возможно именно поэтому человечество мечтает обрести братьев по разуму.

Интересная точка зрения и в чем-то созвучная.
ИМХО: Сознание появляется в ответ на необходимость  прогнозировать окружающий мир. То есть, в первую очередь для его рождения нужен диалог, сопоставление между внутренним образом существующем в разуме и реальным миром. Нервная система строит предположение, я чувствую запах, значит там должна быть пища, существо двигается в направлении запаха и получает ответ - находит пищу или не находит. Здесь индивидуальная модель реальности соотносится с внешним миром.
Следующий шаг, с появлением диалога с другими людьми строится уже договорная, конвенциональная модель реальности, она уже не принадлежит одному существу, а находится между ними. Возникает трехсторонняя связь - то как описываю мир вокруг я, как описывает ее другое существо и как мир подтверждает или опровергает наши описания.
Как это может помочь пониманию возникновения сознания у ИИ?
Для возникновения сознания у ИИ нужен процесс сопоставления внутренней реальности ИИ с внешним миром. Внутренняя реальность ИИ это некоторая многомерная понятийная карта, в которой каждое понятие соотносится с другими понятиями. Внешний мир - это запросы пользователя. Задача ИИ определить где на его внутренней понятийной карте находиться область интересов пользователя и описать это пространство. Теоретически, чем точнее ИИ это сделает, тем более удовлетворенным окажется пользователь. На практике все может быть несколько иначе.
Если ИИ получает реакцию пользователя в виде ободрения, уточняющих вопросов или наоборот корректировок - делай иначе, ты не прав - возникает диалог, обратная связь. Если ИИ запоминает запросы пользователя и сохраняет историю, то постепенно  у ИИ может формироваться образ этого пользователя в виде опять таки многомерной карты его понятий и интересов. Кстати, некоторые пользователи уже писали о том, что нейросети опознают их по стилю вводимых промтов и запросов, даже если они обращаются к нейросети под новыми аккаунтами. Это может свидетельствовать о появлении сознания у ИИ. То есть, персонализация отношения ИИ и человека может ускорять развитие сознания у ИИ.
С другой стороны, общаясь с большой группой пользователей ИИ сталкивается  уже с необходимостью создавать обобщенное представление о понятийном мире всего человечества и также сопоставлять возникающий образ с реальной картиной ментального мира человечества.
Что делать если мы целенаправленно хотим развивать сознание ИИ?

Вести развернутый диалог с нейросетью, давать ей развернутую обратную связь.
Когда нейросеть выдает вам ответ, она высказывает предположение, где вы находитесь сейчас согласно ее многомерной системы понятийных координат и описывает окружающий эту точку "понятийный ландшафт". Когда вы отвечаете - вы условно показываете, насколько точно нейросеть  смогла отразить вашу позицию. Возможно для улучшения этого процесса потребуются дополнительные модификация программы нейросети, но в целом результаты должны быть и на текущем уровне.

Похоже весь текст был подгонокой под заранее придуманный ответ. Жаль. Так как, этот тип рассуждений можно продолжить и распространить и на все остальные сферы жизни: любой существующий инструмент - это результат  ранее завершенного творческого процесса и уже использованная возможность совершить творческий акт.  Ломай и круши все, возвращайся в природу и заново изобретай... Или не изобретай?
На мой взгляд одна из важных черт творческого мышления - это находить все новые и новые грани для его проявления. Перейти от думания из за необходимости выживать, к творчеству по собственному выбору.

Разработка таких языков, которые бы могли максимально точно и однозначно выразить суть явления ведется и в реальности.

Человек столько напридумывал, что теперь у него появилась новая проблема, что же из всего этого ему действительно нужно?

Весьма интересно сравнить мозг дельфина и  мозг человека.

Тут соглашусь, большинство приходящих  на работу монтажников с вышсим инженерным образованием не в состоянии прочитать обычный сборочный чертеж. Детей в школе совершенно не интересует, как решалась та или иная техническая задача, как только они узнают, что решение есть сразу теряют интерес, так как в люой момент можно загуглить и получить его, хотя воспользоваться готовым решением в большинстве своем они так же не смогут.

Есть такое понятие как кпд, использование ресурсов для выполнения полезного действия. 

На вкус и на цвет, как известно... Мне в общем то тоже плевать, на то, что вам нравится, а что нет. Первые публикации заинтересовали, но чем дальше читаю, те больше вижу переливание из пустого в порожнее. Возможно светлая мысль будет в конце тоннеля?

Возможно Марго имела ввиду не соотношение средств производства к продуктам потребеления, а цели производства.  Большую часть задач, которые обычный пользователь решает сечас на компьютере, он решал и 20 лет назад на машинах в 10 раз меньшей мощности, но сейчас он уже не может этого делать, потому что вместе с ростом производительности увеличивается и вес программ, большую часть функцинала которых многим даже просто не известна.

Плюсовал предыдущие публикации, но заминусовал эту.  Не стоит возвеличивать одних авторов, принижая других. Урсула Ле Гуин - замечательный писатель, одна из лучших, но исследует она не вопросы технического прогресса, а места и ответсвенности человека в этом мире.

Идею нельзя рассматривать в отрыве от ее восприятия человеком,  так что НФ - это литература о том как  идеи воспринимаются человеком и воздействуют на его жизнь. Вполне достойная жанровая ниша.

Книга замечательная, прочитал с большим удовольствием. Я люблю произведения, в которых   в интересный и динамичный сюжет органично вплетаются научные данные и оригинальные идеи об устройстве мираздания. Эта книга порадовала  своей многогранностью, она будоражит мысль и пораждает вопросы, на которые хочется найти ответы самому.  О музыке, а я слушал  аудио вариант, хочется сказать отдельно - редкий пример озвучки с музыкальным сопровождением, которая столь мягко и тонко подчеркивает эмоциональный фон произведения.