Написалa комментарий к посту Как искусственный интеллект завоюет человечество?
Если робот именно _запрограммирован_ чистить ковёр, то искусственным интеллектом он не будет. Но, предположим, тому же самому роботу мы поставим задачу чуть-чуть по-другому: сохранять ковёр чистым. Задача нечёткая, условия и методы реализации могут быть разные. И мы даём роботу ИИ, чтобы он мог выбрать оптимальный способ решения задачи сам. И мы тут же получаем конфликт интересов: ИИ хочет сохранить ковёр, человек хочет ковром пользоваться...
Так ещё лучше вышло, и мне не обидно, что ошиблась и какая интрига завязалась!
Написалa комментарий к посту Как искусственный интеллект завоюет человечество?
Очень интересная идея, не могу пройти мимо. :-)
Развитие - совершенно не однозначное понятие, его нельзя будет задать как цель при программировании. Что не должно останавливать, законы Азимова настолько же многозначны, начиная с "действием или бездействием не может причинить вред". Каждый ИИ будет вынужден толковать его по своему, исходя из собственного опыта и остальных поставленных целей (прибыль корпорации/личная безопасность человека и пр) Различное его толкование будет приводить к столкновениям интересов между различными ИИ. "Развитие человечества" вступит в конфликт с понятием "личная свобода человека". Жизнь человечества станет условно небезопасной (хотя бы в ощущениях), потому что одним пряником развиваться не заставишь, нужен будет вариант кнута.
Так же ИИ, в рамках поставленной задачи, будет вынужден развивать человечество/человека до того момента, пока человек не поднимется до уровня ИИ.
PS. Развитие <> желание человека. Так что рост личной ответственности, креативности и т.п. может достигаться помимо желания большинства. Так что диктатуру этот вариант не исключает. )