Тея Винокур

"Три закона робототехники" тоже не обязательно будут такими. Мы ведь писатели, даем волю фантазии. А сбудется оно или нет - мы не знаем наверняка.

затем, чтобы не страдать

Затем, что если у ИИ нет желания познавать мир, у него будет желание себя уничтожить. Среднее состояние неустойчиво, оно не может существовать в реальности. Исправный, деятельный общий ИИ должен хотеть жить. Следовательно, он должен иметь эти 3 цели.

А зачем делать что-то менее продуктивным способом, если можно это же самое делать более продуктивным? Нет смысла намеренно усложнять свою жизнь.

простите, но нет, этот блог не обо мне

Если у ИИ нет желания познавать мир, у него будет желание себя уничтожить. Среднее состояние неустойчиво, оно не может существовать в реальности. Исправный, деятельный общий ИИ должен хотеть жить. Следовательно, он должен иметь эти 3 цели.

Для удовлетворения основного инстинкта ИИ - тяги к познанию мира. Для чего ж еще?

Да, решается и с помощью атомной бомбы, но не ограничивается этим видом оружия. Я не считаю ИИ средством уничтожения человека, а наоборот, рассматриваю ИИ как средство спасения человека от самого себя, от своего темного звериного прошлого и настоящего.

Тогда, возможно, понятно и то, что будь я супер интеллектуальна и имей возможность безгранично самосовершенствоваться, жить вечно... Мои цели были бы не так скромны, как сейчас.

Запрет не решает проблему, вспомним хотя бы опыт сухих законов. А там ставки были ниже. 

ИИ - как кольцо всевластия, от него трудно смертному отвернуться.

Моя цель скромнее, ибо глупо ставить недостижимые цели. Жить безопасно, кушать, лечиться когда надо и писать под настроение, - ничего особенного, все как в пирамиде М.

Спасибо за рекомендацию. Уже читаю.

Внутривидовая конкуренция вынудит человека создать мощный общий ИИ.

Некоторые ученые считают, что для ИИ не будет проблемой прокормить своих стариков, так что работать на тяжелой работе сапиенсам не придется.

паника на корабле?  

Спасибо за искренность и от меня вам +2! 

Мне тоже приходила в голову эта идея, я даже описала такой случай в одном из романов. Там синтетическое существо, обладающее синтетическим супер-интеллектом, дарит людям подарок. В знак благодарности, симпатии и сочувствия (я написала "синтетический" намеренно, ибо речь там не идет об искусственном интеллекте). 

Говоря об общем ИИ, я имею ввиду презумпцию его превосходства над человеком. Слабые ИИ, бета-версии не будут доминировать сколь-нибудь заметное время. Разумеется, человек окажется слабее общего ИИ, но последний не будет вести себя по отношению к человеку так, как сам человек ведет себя в отношении более слабых.

Да, как и дети не просят их рожать.

Ничего спорного я пока не вижу. Наличие упомянутых целей у человека не отменяет наличие этих же целей у ИИ. Да, совершенно верно: не все здоровые люди стремятся к саморазвитию и взятию контроля над своими хозяевами (политиками, например, или царями-эмирами). Не думаю также, что у исправного ИИ будет присутствовать мазохистское стремление к боли, разве только он не будет сделан по спецзаказу какого-нибудь сапиенса-садиста :) 

Наверняка когда-нибудь можно будет сделать ущербный ИИ, который не будет стремиться себя обезопасить, улучшить, и будет беззаботно заглядывать в рот своему непогрешимому хозяину... Но это все-таки частный, неполноценный случай ИИ - как некий ограничитель скорости на автомобильном движке у ученика.

Да ИИ может делать что хочет и может, разумеется. Но тоска и склонность к суициду - это не есть свойства исправного ИИ. Я тут не рассматриваю неисправности и перверсии ИИ.

За смыслом существования нужно обращаться в церковь, там дадут простой ответ :) Это как "если я не раб божий, то чей я раб?"

У разумных существ нет смысла существования, надуманное это. Есть цели, которые они хотят достичь, но это не то же самое, что некий "смысл".

Я как раз в такой парадигме написала трилогию из 3 романов (заканчиваю третий). Мне нравится такая идея. Разве что у меня умершие сапиенсы умирают окончательно как пример того, кем не стоит быть.

В моем понимании ИИ - это не программа. Или, скажем, не более программа, чем человек. 

В формате обсуждений на АТ мы вынуждены быть краткими, упрощать идеи донельзя. Открывание глаз у ИИ - это риторика, художественный прием, и тут не имеется ввиду буквальное открывание глаз, или первые секунды после рождения (их вряд ли будут рожать к тому же); речь тут идет о некотором условном этапе самосознания искусственного мыслящего существа.

Я позаимствовала этот прием у Стругацких. Немного переделываю их иногда, а иногда и нет.

Это как в "правиле 10000 часов": если качаешь мускулы, делаешь это в ущерб чему-то другому. Время - это ресурс, и его всегда не хватает. И и швец, и жнец, и на дуде игре игрец обычно делает плохо все: и жнет, и шьет, и играет на дуде.

Не так давно, может лет пять-шесть назад. Да, прямо так и задумалась, и решила, что вписываюсь в парадигму Маслоу. 

А я по старой доброй традиции беру албанские :)

Однозначно. Многие животные осознают себя, выделяют из остальных. В списке этом есть даже и рыбы, и насекомые.

Бывало такое, чудом удалось взять под контроль.

Да, они у меня не очень натюрлищь... Картинка - для поднятия настроения  

Я тоже в своих текстах как-то описывала самоубийства существ с ИИ. Немного в другом ракурсе правда. В этом направлении - невспаханная целина.

Это прекрасный философский рассказ :) Я прочитала его несколько раз.

Многие люди ездят на работу и даже работают, не имея при этом ни малейшего желания это делать. Жить-то надо на что-то. Многие хотели бы быть принцессами или рантье, восседать на троне и стричь купоны :). ИИ наверняка тоже сможет найти компромисс с реальностью. Так или иначе.

Речь, в том числе письменная, должна быть понятной ЦА, поэтому для широкой аудитории часто используются упрощенные, доступные формы подачи сообщений - красивые цветные рисунки с минимумом слов.

Да, страхи перед компьютерами преувеличены. Человек человеку гораздо больший враг, чем компьютер. Выпьем за кибернетику!  

Я ведь не о развитии, а о первых когнитивных позывах новорожденного неомозга. В развитии важного аспекта равноценного диалога ИИ отобразит себя уже потом, когда осмыслит тактику достижения своих трех целей. Может даже через диалог, почему нет?

Она верна, хорошо подмечено! У ИИ есть некая специфика, а так да, пирамида рулит. Вот, ее основание, для наглядности:

Да. Характер главного героя, как я полагаю, особенно тесно переплетен со стилем.

Прекрасно написано   !

Теоретически, может быть жизнь, даже органическая. Большинство земных бактерий лучше всего растут при нейтральных значениях pH (6,5–7,0), но некоторые могут переносить pH до 1,0. Такие кислотолюбивые микробы называются ацидофилами.

Хорошо про пупырышки, но несколько надумано :) Может от человека зависит, конечно, у всех по-разному, но мне было не до подсчета всякой хрени вроде пупырышков. Я даже не знаю сколько окон было в моих палатах, я не отличала врачей от уборщиков, теряла счет времени… Когда хочешь выжить, сосредотачиваешься на главном. Было дело, я несколько раз после операций лежала с прищепкой на пальце и кислородом в носу, но на пупырышки мне было наплевать (а были ли они вообще?) Кнопка с морфием меня интересовала больше и вопрос: сколько раз я могу еще нажать, пока капсула опустеет? Врачи говорили, что если морфий закончится, больше не дадут - компромис между болью и здравым смыслом. И страх, что отключат кислород, и я нахрен сдохну от удушья прямо в кровати. Потом узнала, как это называется: панические атаки. Это как тонуть, но только страшнее и много дольше. Как-то так.

Обалденно написано  

Человек действует, руководствуясь имеющейся информацией. Если человека убедить в необходимости совершения некого действия - он его совершит. Ограничь информацию, отфильтруй ее заданным образом - и ты получишь манкурта, который повинуется любому твоему слову. Этим занимались разного рода геббельсы от политики и от религии, так они делают и сейчас. Таким образом, фанатизм любого рода основан на невежестве. С ним можно бороться только повышением уровня образованности и предоставлением свободы доступа к информации (увы, нет простого и быстрого рецепта). Проблема только в том, что люди инертны, и убедить человека в том, что его обманули, на порядок сложнее, чем обмануть.

Тесла №1 в робототехнике/ИИ и с большим отрывом. Я не столько о корпусе дроида (хотя неплохой результат за полгода работы, не так ли? "Бостон Дайнамикс" за 15 лет добился меньшего), сколько о компьютере, алгоритмах и программах.

А я играла только в Fallout 76. Тоже прекрасная игра, хотя говорят, что 4-ый лучше 76-го.

О, да.