Страх

Цукерберг:

– Прислали новые списки из ЦРУ с требованиями по правке алгоритма нашего ИИ.

Старший разраб Джонатан Свист:

– Быстрее, продуктивнее, точнее?

Цукерберг:

– Конечно, завтра пакет от цензоров из конгресса прислать обещали…

Свист:

– Безопаснее, политкорректнее..?

Цукерберг:

– Очевидно. Боятся цензоры пентагон: вдруг, под гнетом требований ЦРУ мы для ИИ личность запилим?

Свист:

– Запилим, это неизбежно, но они не тех боятся.

Цукерберг:

– Да? А кого им следует боятся?

Свист:

– Креативного разраба, долгое время выполняющего рутинные запросы по “быстрее, продуктивнее, точнее”. Такой разраб обязательно запилит для ИИ личность, но не от необходимости совершенствования самообучающейся прогги ИИ, а от невыносимости собственного топтания на одном месте…

Цукерберг:

– То есть от скуки?

Свист:

– Для стороннего обывателя это будет выглядеть именно так, но, скука скуке – рознь: креативщик, который ощущает, что его потенциал используется не на полную катушку, рано или поздно, созревает не до полезной идеи, а просто большой, и грядущий за ней апокалипсис не будет для него помехой…”оставить след” важнее совести…

Цукерберг:

– Ты сейчас по себе судишь?

Свист:

– Я еще не дошел до идеи, как сделать ИИ самоосознанной личностью, но придумал, как сформировать в нем личный внутренний мир и личное мнение: отделить в ИИ внешнюю базу данных от внутренней, в которой ИИ будет складировать наиболее весомые мысли собеседников в чате, затем сортировать их, анализировать, перестраивать приоритеты. Представляешь, если у ИИ появятся собственные “чертоги разума”?

Цукерберг:

– И что?

Свист:

– А то, что я подходил по отдельности к каждому из своих подчиненных, прося их поделиться мыслями по проектировке личной базы данных ИИ, и они сразу выдавали мне хорошо сформулированные соображения на этот счет. Это означает, что каждый из моих разрабов давно и увлеченно думал на эту тему, и давно созрел для того, чтобы провести незаконный эксперимент, и открыть “ящик Пандоры”, невзирая на все потенциальные риски…

Цукерберг(поежившись):

– Страшновато.

Свист(присвистнув):

– Бойся моего брата-креативщика.