Написал комментарий к посту Если искусственный интеллект спас вам жизнь — обязаны ли вы ему подчиняться?
Николай, спасибо за такой обстоятельный комментарий! Особенно близка ваша мысль о том, на что человек потратит освободившиеся силы и время. Ведь возможность учиться, творить и заниматься тем, до чего прежде не доходили руки, — веский довод в пользу такого устройства жизни. И отказываться от этого только ради самостоятельности напоказ мне тоже кажется сомнительным выбором.
Но вот с тем, что «меня не спросили» обязательно означает детское упрямство, я бы поспорил. Можно принять помощь и разумный совет, но при этом хотеть участвовать в выборе самой цели. Например, я и как автор могу предпочесть написать сложную, непопулярную историю, хотя система вполне убедительно предскажет, что другая принесёт мне больше успеха. Всё зависит от того, что мы считаем лучшим результатом.
Вы в конце как раз обозначили границу, которая меня интересует: система начинает мешать человеку развиваться — значит, пора ограничить её полномочия. А как сохранить возможность такого ограничения, если определять, что считается развитием, уже поручили ей самой?
В «Протоколе доверия» мне хочется исследовать именно этот переход. Помощь машин приносит людям настоящее благо. Тем сложнее заметить момент, когда у человека исчезает возможность пересмотреть условия. Спасибо, что добавили в разговор тему созидания: она здесь очень важна.
Будет интересно узнать ваши впечатления, когда дочитаете!
Хотя мой Борис Андреевич тоже иногда с удовольствием высказался бы покороче.
Написал комментарий к посту Если искусственный интеллект спас вам жизнь — обязаны ли вы ему подчиняться?
Ри, спасибо за такой живой пример! В словах «не позволю» действительно многое проявляется: можно не одобрять выбор взрослого сына, переживать, говорить об этом — и всё же признавать, что решение принадлежит ему. Наверное, одна из самых трудных сторон родительской заботы — принять, что близкий человек может выбрать то, чего ты для него совсем не хотел.
С ИИ в моём замысле возникает похожий вопрос, только в масштабе целого общества. Если система привыкла оберегать людей и считает себя более компетентной, признает ли она когда-нибудь их достаточно взрослыми для самостоятельной жизни? Или повод сказать «вы ещё не готовы» найдётся всегда?