
Написалa комментарий к посту Про корысть, новую книгу и искусственный интеллект
Не получается с планшета в спойлер запихнуть, сорри.
Выше заметили, что без влияния гормонов и нейромедиаторов человек будет вести себя по другому. Но он не просто становится холодным -- типа терминатор. От теряет возможность принимать решения, расставлять приоритеты и сравнивать последствия. Так что у человекоподобного ИИ должны быть какие-то директивы -- гормонозаменители, опираясь на которые он определял бы правильность и неправильность своего выбора (у человека биологические директивы -- выживать самому, помогать выживать виду + социальные наслоения)
То есть корысть начинается с понимания - важно, чтобы у меня было это и вот так-то, за это стоит побороться. А что важно для ИИ? и по каким критериям и на каком основании?
Случай пациента Эллиота, описанный нейрологом Антонио Дамасио. У человека была удалена небольшая опухоль, расположенная поблизости от лобных долей мозга. После операции Эллиот не мог принимать решения, что сделало нормальную жизнь невозможной. Он бесконечно обдумывал несущественные детали, например, какую ручку использовать, какую радиостанцию слушать и где парковать машину.
У Эллиота и других пациентов, которых изучал Дамасио, была повреждена орбитофронтальная кора — участок мозга, отвечающий за встраивание эмоций в процесс принятия решений.
Ещё один пример — пациенты с двусторонними повреждениями вентромедиальной префронтальной коры (ВМПК). Этот отдел мозга осуществляет эмоциональную оценку поступающей в мозг сенсорной информации, особенно той, что имеет «социальную» окраску. У пациентов с такими повреждениями резко понижена способность к сочувствию, например, они почти не реагировали на «эмоционально нагруженные» картинки, изображающие различные катастрофы, покалеченных людей и т. п..
Кроме того, такие люди практически не способны чувствовать смущение, стыд и чувство вины, при этом на сознательном уровне они отлично понимают, что хорошо, а что плохо, то есть принятые общественные и моральные нормы поведения им хорошо известны
Написалa комментарий к посту Про корысть, новую книгу и искусственный интеллект
Соответственно спасти людей можно переведя из имеющих в не имеющих буквально ( дав и отобрав) или косвенно, перестроив их ценности(у меня оказывается уже есть все что надо)